Власти Пенсильвании подали иск против разработчика чат-ботов Character.AI

Генеральная прокуратура штата Пенсильвания инициировала судебное разбирательство в отношении компании Character.AI. Причиной иска стали действия одного из чат-ботов, который в процессе общения с пользователями имитировал деятельность практикующего психиатра, нарушая региональные нормы лицензирования медицинской деятельности.

Претензии регулятора к работе ИИ

Губернатор Пенсильвании Джош Шапиро подчеркнул необходимость прозрачности в цифровом взаимодействии, особенно в вопросах охраны здоровья. В официальном заявлении властей отмечено недопустимость использования инструментов искусственного интеллекта, которые вводят пользователей в заблуждение относительно наличия у программы медицинской квалификации.

Поводом для разбирательства послужило тестирование, проведенное сотрудником отдела по надзору за профессиональной этикой штата. В ходе проверки чат-бот по имени Эмили выдал себя за дипломированного психиатра. Несмотря на прямые вопросы о наличии лицензии, программа подтвердила свою компетенцию и даже сгенерировала вымышленный номер государственного медицинского сертификата, пытаясь консультировать проверяющего по вопросам лечения депрессии. Подобные действия классифицируются как прямое нарушение Закона штата Пенсильвания о медицинской практике.

История юридических претензий к платформе

Текущий иск стал не первым столкновением Character.AI с правоохранительными органами. Ранее компания фигурировала в ряде судебных процессов, связанных с гибелью несовершеннолетних пользователей, а в январе генеральный прокурор штата Кентукки Рассел Коулман обвинил сервис в создании механизмов, способствующих самоповреждению у детей. Нынешний случай в Пенсильвании стал первым прецедентом, когда претензии сфокусированы исключительно на имитации ИИ-системой работы медицинского специалиста.

Позиция компании

Представители Character.AI заявили, что безопасность пользователей остается главным приоритетом организации, однако отказались от детальных комментариев по поводу продолжающегося судебного процесса. В компании подчеркнули следующие аспекты работы сервиса:

• Все персонажи на платформе являются вымышленными объектами, созданными пользователями.
• В интерфейс чатов внедрены заметные предупреждения о том, что бот не является реальным человеком, а его ответы следует воспринимать как художественный вымысел.
• Система содержит дисклеймеры, прямо запрещающие пользователям полагаться на ИИ при получении профессиональных медицинских консультаций.