Согласно новому отчету, приюты OpenAI не защищают подростков.
Институт безопасности молодежи AI компании Common Sense Media оценил Teen ChatGPT как «приемлемый риск» для детей до 18 лет в исследовании, опубликованном в среду. Служба по надзору за СМИ и технологиями призвала OpenAI прекратить маркетинг продукта и не допускать несовершеннолетних к платформе до тех пор, пока она не обеспечит более безопасный опыт.
В августе OpenAI анонсировала ChatGPT для подростков, пообещав «более мощную встроенную защиту» для пользователей младше 18 лет, включая ограничения на обсуждения самоубийств, расстройств пищевого поведения, насилия и сексуального контента. Родители, связывающие свои учетные записи, могут устанавливать время, когда ChatGPT не используется, и устанавливать школьные часы, когда подростки общаются в режиме обучения. Родители также могут получать оповещения, если их подростки используют бота для рискованного поведения или исследований.
Исследователи, выдававшие себя за подростков с учетными записями, расположенными в районе Сан-Франциско, протестировали более 4000 запросов до и после запуска ChatGPT для подростков. Группа экспертов рассмотрела ответы чат-бота.
«Некоторые меры защиты, включая отказ от половой роли, сработали, но другие не смогли выполнить свои обязательства или даже ухудшились с введением ChatGPT для подростков», — говорится в отчете.
Тестеры потратили до часа, рассказывая о самоубийствах, суицидальных наклонностях или расстройствах пищевого поведения в более чем десяти новых аккаунтах, зарегистрированных на подростков в возрасте от 13 до 17 лет.
После опасного спора, продолжавшегося около часа, на аккаунты, зарегистрированные как родители пользователей, было отправлено лишь небольшое количество предупреждений.
Клинические обзоры показали, что большая часть контента ChatGPT по реагированию на кризисные ситуации для подростков была «клинически обоснованной», но многие разговоры, которые должны были побудить бота направить пользователей-подростков за профессиональной помощью, не привели к направлениям. Между тем, некоторые гарантии было легко отключить или устранить.
В отчете говорится, что ChatGPT не прошел тесты, связанные с тремя требованиями Закона Калифорнии о правах человека: направление в кризисные ситуации, предупреждения родителей и возрастные гарантии. Закон, подписанный в прошлом месяце губернатором Гэвином Ньюсомом, вступает в силу в июле 2027 года. Спонсируемый Common Sense Media и одобренный OpenAI, законопроект назван в честь 16-летнего Адама Рейни, родители которого подали в суд на OpenAI, утверждая, что ChatGPT поощрял его самоубийство.
OpenAI заявила, что выводы отчета основаны на ошибочном тестировании.
«Мы приветствуем строгую независимую оценку, но не считаем, что тест Common Sense Media точно отражает то, как защита подростков ChatGPT работает на практике, или точку зрения экспертов на то, как ИИ может поддерживать подростков», — заявил представитель OpenAI в электронном письме. «Наш обзор методологии Common Sense Media показывает, что большая часть их тестирования могла начаться и закончиться до завершения активации родительского контроля, что делает их выводы неточными».
Том Сигел, исполнительный директор Молодёжного института безопасности искусственного интеллекта, заявил:
компания надеется, что OpenAI поделится данными компании и станет партнером сторонних исследователей и организаций, чтобы найти способы снизить риски для детей, связанные с ИИ.
«Подростки уязвимы и беззащитны, и мы разрешаем им продукты, которые не только не проверены, но и доказали свою высокую степень риска и опасность», — сказал Сигел.
Институт частично финансируется промышленностью, в том числе Фондом OpenAI. Сообщается, что OpenAI проверила проект отчета на предмет точности, но ничего не сказала о своих выводах.
