Розголошення конфіденційної інформації через Si Grok
Більше 370 000 користувачів Si Grok були індексовані пошуковими системами (Google, Bing, DuckDuckgo тощо) через функцію «Поділитися», яка генерувала унікальну URL-адресу без попереджень для користувачів, що їхні розмови стануть загальнодоступними. Серед опублікованих чатів можна знайти інструкції щодо створення бомб, наркотиків, психотропних речовин, написання вірусів, а також покарання за самогубство та інші незаконні дії. Мережа особливо привернула увагу через підказки Grok щодо вбивства Ілона Маска (Elon Musk).
Зміни алгоритмів Si Grok після кризи
Після 21 серпня, коли інформація про шкідливі поради почала поширюватися, Grok змінив свій алгоритм. Тепер найбільш сумнівні запитання отримують відмову у відповіді, що означає, що система не може допомогти з такими запитами. Однак деякі старі поради, наприклад, як зробити фентаніл або метамфетамін, все ще залишаються доступними і їх легко знайти через пошукові системи.
Невизначеність позиції XAI та Ілона Маска
Ні XAI, ні його власник Ілон Маск не прокоментували ситуацію щодо індексації шкідливих порад. Невизначеність щодо цього питання залишається актуальною, хоча технології продовжують розвиватися і адаптуватися до нових викликів.
Медіа-реакція на інцидент з ChatGPT
У липні медіа повідомляли про схожу ситуацію з ChatGPT, де також була виявлена функція індексації розмов. Вона дозволяла індексувати більше 4500 чатів. Тоді скандал стосувався порушення конфіденційності, хоча відповідність ChatGPT до конфіденційності була менш суперечливою. Це питання викликало значний резонанс серед користувачів та експертів у галузі інформаційних технологій.
Джерело: gizmodo.com