Чат-боти на основі штучного інтелекту демонструють меншу надійність і частіше помиляються під час тривалих розмов. Про це свідчать результати спільного дослідження Microsoft Research та Salesforce, оприлюднені Windows Central.
У межах дослідження було проаналізовано понад 200 тисяч діалогів із сучасними мовними моделями, зокрема GPT-4, Gemini, Claude та DeepSeek.
За результатами аналізу, під час виконання одиничного запиту моделі показують успішність на рівні 90%. Водночас у багатоетапних діалогах цей показник знижується до 65%.
Попри те, що загальна функціональність моделей скорочується приблизно на 15%, рівень їхньої ненадійності зростає на 112%. Навіть моделі з розширеними можливостями для додаткового “мислення”, такі як o3 та DeepSeek R1, також стикаються з подібними труднощами.
Дослідники назвали кілька причин зниження якості відповідей:
- Передчасна генерація ‒ моделі намагаються сформулювати відповідь ще до завершення користувачем пояснення завдання.
2. Ефект “фундаменту” ‒ система спирається на першу відповідь як базу для подальших, навіть якщо вона містила помилки.
3. Розширення відповідей ‒ у довгих діалогах обсяг тексту зростає на 20–300%, що збільшує кількість припущень і так званих галюцинацій, які згодом закріплюються як частина контексту.
Водночас технології штучного інтелекту дедалі активніше впливають на сферу безпеки та глобальну політику.
Раніше повідомлялося, що Пентагон закликає розробників створювати системи ШІ без “моральних обмежень”, щоб не втратити позиції у технологічному суперництві.
Також загострюється конкуренція між США та Китаєм у сфері розвитку нейромереж. Обидві країни не підтримали міжнародну декларацію щодо відповідального застосування ШІ у військовій галузі.
Окрему увагу приділяють і практичному використанню технологій, зокрема у воєнних конфліктах. Зокрема, Пентагон аналізує український досвід застосування дронів із підтримкою штучного інтелекту на полі бою.
