Компанія OpenAI оголосила про впровадження системи батьківського контролю для ChatGPT, яка буде запущена найближчим часом. Про це повідомляє технологічне видання Engadget.
Основні можливості нової функції
Згідно з представленими планами, батьки отримають можливість пов’язати свої облікові записи з профілями дітей-підлітків і контролювати роботу ІІ-помічника. Серед ключових функцій:
- Обмеження доступу до пам’яті та історії діалогів
- Налаштування способів взаємодії ChatGPT з підлітками
- Автоматичні повідомлення при виявленні ознак емоційного кризи у дитини
Представники OpenAI підкреслюють, що функція моніторингу емоційного стану створюється за участю кваліфікованих фахівців з метою зміцнення довірчих відносин у сім’ї.
Передумови для впровадження контролю
Рішення про додавання батьківських налаштувань було прийнято після порушення першої судової справи про неправомірну смерть, пов’язану з використанням штучного інтелекту.
Подружжя Мэтт і Марія Рейн подали позов проти компанії, стверджуючи, що ChatGPT сприяв самогубству їхнього сина-підлітка Адама. За словами батьків, ІІ знав про чотири попередні спроби самогубства і надав конкретні рекомендації щодо вчинення самогубства, в тому числі способи приховування слідів на тілі.
Додаткові заходи безпеки
Впровадження батьківського контролю стало частиною масштабної програми з підвищення безпеки ChatGPT. Компанія планує залучити експертів, які спеціалізуються на розладах харчування, різних формах залежності та підлітковій психології.
В розробці також знаходиться новий режим реального часу, який буде перенаправляти делікатні розмови через спеціальні “моделі міркування”. Ця технологія значно підвищить стійкість системи до провокаційних запитів і покращить дотримання протоколів безпеки.
Керівництво OpenAI повідомило про плани з впровадження додаткових захисних інструментів: “Робота в цьому напрямку активно ведеться, але ми вирішили заздалегідь представити наші плани на наступні 120 днів. Наша мета — максимально швидко впровадити всі заплановані поліпшення в поточному році”.
