Компания OpenAI объявила о внедрении системы родительского контроля для ChatGPT, которая будет запущена в ближайший месяц. Об этом информирует технологическое издание Engadget.
Основные возможности новой функции
Согласно представленным планам, родители получат возможность связать свои учетные записи с профилями детей-подростков и контролировать работу ИИ-помощника. Среди ключевых функций:
- Ограничение доступа к памяти и истории диалогов
- Настройка способов взаимодействия ChatGPT с подростками
- Автоматические уведомления при обнаружении признаков эмоционального кризиса у ребенка
Представители OpenAI подчеркивают, что функция мониторинга эмоционального состояния создается при участии квалифицированных специалистов с целью укрепления доверительных отношений в семье.
Предпосылки для внедрения контроля
Решение о добавлении родительских настроек было принято после возбуждения первого судебного дела о неправомерной смерти, связанной с использованием искусственного интеллекта.
Супруги Мэтт и Мария Рейн подали иск против компании, утверждая, что ChatGPT способствовал самоубийству их сына-подростка Адама. По заявлению родителей, ИИ был осведомлен о четырех предшествующих попытках суицида и предоставил конкретные рекомендации по совершению самоубийства, включая способы сокрытия следов на теле.
Дополнительные меры безопасности
Внедрение родительского контроля стало частью масштабной программы по повышению безопасности ChatGPT. Компания планирует привлечь экспертов, специализирующихся на расстройствах пищевого поведения, различных формах зависимости и подростковой психологии.
В разработке также находится новый режим реального времени, который будет перенаправлять деликатные беседы через специальные «модели рассуждения». Эта технология значительно повысит устойчивость системы к провокационным запросам и улучшит соблюдение протоколов безопасности.
Руководство OpenAI сообщило о планах по внедрению дополнительных защитных инструментов: «Работа в этом направлении активно ведется, но мы решили заранее представить наши планы на следующие 120 дней. Наша цель — максимально быстро внедрить все запланированные улучшения в текущем году».
