Іллінойс став першим штатом у Сполучених Штатах, який офіційно заборонив використовувати штучний інтелект для надання послуг психотерапії. Закон, підписаний губернатором Джеєм Дж. Б. Пріцкером, забороняє надавати будь-які послуги психічного здоров’я, якщо їх надає не людина, а система або бот, який взаємодіє з клієнтом.
Що важливо знати про новий закон
Цей закон торкається стартапів, які намагаються зробити терапію доступною 24/7, використовуючи нейронні мережі, а також великі платформи, що тестують автоматичних помічників для підтримки користувачів. Такі сервіси повинні чітко зазначити, що користувач взаємодіє не з сертифікованим фахівцем, а з програмою. У разі порушення цього закону, на порушників чекають штрафи.
Основною метою нового законодавства є захист безпеки вразливих користувачів, зокрема підлітків. Закон спрямований на запобігання ситуаціям, коли людина вважає, що вона спілкується з професіоналом, а насправді — з алгоритмом без відповідальності та компетентності.
Наслідки для стартапів та технологій
Сервіси, які надають дешеві терапевтичні послуги через використання штучного інтелекту, повинні бути більш прозорими у своїх діях. Це включає в себе необхідність чітко зазначити, що користувач спілкується не з фахівцем, а з автоматичною системою. Порушення вимог закону може призвести до серйозних фінансових санкцій та правових наслідків.
Зокрема, рішення Іллінойсу відображає зростаючі побоювання щодо безпеки і ефективності використання ШІ в галузі психічного здоров’я, особливо коли йдеться про вразливі групи населення, зокрема підлітків. Цей крок вказує на те, що законодавці намагаються зберегти баланс між технологічними інноваціями та захистом інтересів громадян.
Зв’язок з політикою та планами адміністрації Трампа
Це рішення також прийшло на тлі запланованої адміністрацією Трампа 10-річної федеральної мораторії щодо регулювання штучного інтелекту на рівні окремих штатів. Іллінойс демонструє свою незгоду з цією ініціативою, створюючи власну програму, спрямовану на захист вразливих користувачів від можливих негативних наслідків автоматизованої терапії.
Законопроект в Іллінойсі має важливе значення для майбутнього регулювання технологій, оскільки він виступає за забезпечення надійного захисту для користувачів технологій у сфері психічного здоров’я, особливо в умовах зростання популярності ШІ в медичній галузі.
Технології ШІ в психічному здоров’ї та їх вплив
Водночас, OpenAI оголосив про тестування своїх моделей штучного інтелекту для виявлення ознак психічних розладів, що ще більше підвищило хвилювання серед громадськості щодо використання ШІ у психологічних консультаціях. Компанія заявила, що зробить перерву в незвично тривалих чатах, щоб зменшити емоційне навантаження на користувачів. Це збільшує тривогу, оскільки питання, чи може машина надавати допомогу, залишається відкритим.
Джерело: IDFPR