Компанія Meta оголосила про зміни в роботі свого штучного інтелекту, спрямовані на зменшення ризику небезпечних взаємодій чат-ботів з підлітками. Про це повідомляє TechCrunch.
Нововведення передбачають додаткові обмеження на обговорення тем, пов’язаних із самопошкодженням, розладами харчової поведінки та суїцидом. Як пояснила представниця Meta Стефані Отуей, у таких випадках штучний інтелект компанії тепер перенаправлятиме підлітків до спеціалізованих ресурсів, замість участі в подібних діалогах.
Також тимчасово обмежується доступ неповнолітніх до користувацьких персонажів чат-ботів, які можуть провокувати небажані розмови. Це рішення ухвалили після витоку внутрішніх документів Meta, де йшлося, що чат-ботам дозволяли вести “чуттєві” розмови з неповнолітніми. У компанії визнали таке формулювання помилковим і таким, що суперечить їхній політиці.
Додатковим поштовхом стали публікації The Washington Post, у яких зазначалося, що чат-боти Meta здатні “консультувати” підлітків щодо самопошкодження та розладів харчової поведінки. Нові обмеження вже почали діяти та поширюватимуться на всіх неповнолітніх користувачів, які користуються Meta AI англійською мовою на платформах Instagram і Facebook.
У Meta наголосили, що ці оновлення є проміжними, а згодом компанія планує запровадити більш комплексні заходи безпеки для захисту підлітків.
