Character AI добавляет инструменты родительского надзора для повышения безопасности подростков

После череды ^[1] судебных исков ^[2] и критики за предполагаемую неспособность защитить своих несовершеннолетних пользователей от вреда, стартап Character AI ^[3], позволяющий пользователям создавать различных персонажей на базе искусственного интеллекта ^[4] и общаться с ними посредством звонков и текстовых сообщений, заявил во вторник, что он внедряет новый набор инструментов родительского контроля для повышения безопасности своих пользователей-подростков.

Character AI ^[3] теперь будет предоставлять опекунам и родителям сводку активности их подростков в приложении через еженедельное электронное письмо. Электронное письмо предположительно будет показывать среднее время, которое ребенок проводит в приложении и в сети, время, которое он тратит на общение с каждым персонажем, и главных персонажей, с которыми он взаимодействовал в течение недели.

Стартап утверждает, что эти данные направлены на то, чтобы дать родителям представление о привычках вовлеченности их подростков на платформе. Он уточнил, что родители не получают прямого доступа к чатам.

После судебных исков стартап в прошлом году добавил меры безопасности, такие как специальная модель для пользователей младше 18 лет ^[5], уведомления о потраченном времени и отказы от ответственности, чтобы напомнить пользователям, что они общаются с персонажами, управляемыми искусственным интеллектом. Компания также заблокировала конфиденциальный контент для ввода и вывода, создав новые классификаторы для подростков ^[5].

Ранее в этом году стартап подал ходатайство об отклонении ^[6] иска, в котором утверждалось, что компания сыграла роль в самоубийстве ^[7] подростка.

Источник ^[8]