Розслідування британського видання The Guardian виявило, що функція AI Overviews у пошуку Google надає неточну та потенційно небезпечну інформацію з питань здоров’я. Зведення на основі генеративного штучного інтелекту, які з’являються на початку результатів пошуку, містять помилки щодо діагностики та лікування захворювань. Експерти застерігають, що це може призводити до неправильних рішень пацієнтів і затримки у зверненні по професійну медичну допомогу.
Компанія Google називає свої AI Overviews корисними та надійними, але розслідування зафіксувало численні випадки хибних порад, особливо в медичній сфері. Зокрема, в одному з прикладів, який фахівці охарактеризували як дійсно небезпечний, система рекомендувала пацієнтам із раком підшлункової залози уникати продуктів з високим вмістом жиру.
Це прямо суперечить встановленим медичним рекомендаціям і може призвести до недостатнього набору калорій, втрати ваги та неможливості пройти хіміотерапію чи операцію, що підвищує ризик смерті.
«Ми непокоїлися й тим, що підсумок штучного інтелекту змінювався, коли ми виконували той самий пошук, щоразу видаючи різні відповіді з різних джерел. Це означає, що люди отримують різні відповіді залежно від того, коли вони шукають, і цього недостатньо», — зазначила головна виконавча директорка благодійної організації Eve Appeal Афіна Ламнісос.
Інші помилки стосувалися аналізів функції печінки: ШІ надавав неправильні дані про нормальні показники без урахування віку, статі чи етнічної приналежності, що могло ввести в оману людей із серйозними захворюваннями.
«Багато людей із захворюваннями печінки не виявляють жодних симптомів до пізніх стадій, тому так важливо пройти обстеження. Але те, що огляди штучного інтелекту Google називають “нормальним”, може разюче відрізнятися від того, що насправді вважається нормальним», — заявила головна виконавча директорка Британського фонду з лікування печінки Памела Гілі.
Також зафіксовано оманливі зведення щодо психічних розладів, таких як психоз чи розлади харчової поведінки, які могли зашкодити або відлякати від пошуку допомоги.
«Ми значно інвестуємо в якість оглядів штучного інтелекту, особливо з таких тем, як здоров’я, і переважна більшість з них надає точну інформацію», — підсумував речник Google.
