Власти штата Иллинойс первым в США официально запретили ИИ-терапевтов

Иллинойс запрещает ботов в ментальной поддержке. Источник: Reba Saldanha / AP

Штат Иллинойс стал первым в США, где официально запрещено использование искусственного интеллекта в роли психотерапевта. Закон подписал губернатор Джей Би Притцкер (J.B. Pritzker), и он прямо запрещает предлагать любые услуги ментального здоровья, если с клиентом общается не человек, а ИИ или бот.

Что известно

Под удар попадают как стартапы, продвигающие «дешёвую терапию 24/7» на базе нейросетей, так и крупные платформы, тестирующие автоматических помощников для поддержки пользователей. Теперь такие сервисы обязаны чётко указывать, что пользователь взаимодействует не с сертифицированным специалистом, а с программой. Нарушителям грозят штрафы.

Причина — безопасность и защита уязвимых пользователей, особенно подростков. Закон также нацелен на предотвращение ложного ощущения «помощи», когда человек думает, что общается с профессионалом, а на деле — с алгоритмом без ответственности и компетенции.

Этот шаг особенно показателен на фоне недавно озвученного плана администрации Трампа, которая предлагает 10-летний федеральный мораторий на регулирование ИИ на уровне отдельных штатов. Иллинойс фактически бросает вызов этой идее, формируя собственную повестку по защите уязвимых пользователей.

Закон также появился на фоне заявлений OpenAI, которая объявила о тестировании возможностей своих моделей по распознаванию признаков психических расстройств. Компания также пообещала прерывать необычно длинные чаты, чтобы снизить эмоциональную нагрузку на пользователей. Всё это усилило тревогу: может ли машина «случайно» лечить — и кто за это в ответе?

Решение властей Иллинойса может стать прецедентом для других штатов и стран, ведь рынок AI-«терапии» бурно растёт. И не без спорных последствий.

Источник: IDFPR