Що сталося?
Тільки кілька днів після того, як інструмент підсумовування сповіщень на основі ШІ від Apple надав хибну новину від BBC про Луїджі Мангіоне, провідна торговельна асоціація закликала компанію повністю прибрати цю функцію. Це чергова невдача в зусиллях Apple переконати своїх клієнтів у тому, що її ШІ дійсно варто використовувати.
Фальшиві новини та їх наслідки для технологій AI
13 грудня Apple Intelligence, яка має історію помилок при підсумовуванні сповіщень, опублікувала новину, де стверджувалося, що Мангіоне застрелився. Це сталося всього через 48 годин після запуску Apple Intelligence у Великій Британії.
Courtesy of BBC News
Мангіоне, який був заарештований і звинувачений у вбивстві CEO UnitedHealthcare Брайана Томпсона в Нью-Йорку, не застрелився. Він залишається в ув’язненні в установі Huntingdon State Correctional Institution в Пенсильванії.
Попередні помилки в підсумовуванні новин
Це не перший випадок, коли Apple Intelligence неправильно підсумовує новини. Раніше вже з’являлася помилка, де стверджувалося, що прем’єр-міністр Ізраїлю Беньямін Нетаньягу був заарештований після того, як Міжнародний кримінальний суд видав ордер на його арешт.
Міжнародна організація «Репортери без кордонів» (RSF), яка захищає право на свободу інформації, закликала Apple відключити функцію підсумовування сповіщень.
RSF зазначає, що цей випадок показує, як сервіси генеративного ШІ ще не готові до надійного створення інформації для громадськості, тому вони не повинні бути дозволені на ринку для таких цілей.
Ключові виклики для майбутнього ШІ в новинах
Генеративні технології на кшталт ШІ з підсумовування новин все частіше показують свою нездатність до точного аналізу контексту і надійного надання фактів. Їх використовувати в журналістиці стає небезпечно, особливо коли мова йде про серйозні новини, що можуть вплинути на громадську думку.
Як зазначає RSF, алгоритми штучного інтелекту, що працюють на основі ймовірностей, автоматично виключають їх як надійні технології для медіа. «ШІ — це машини ймовірностей, і факти не можуть визначатися за допомогою випадкового числового генератора», — зазначив Вінсент Берт’є, керівник Технологічного та журналістського відділу RSF.
АІ: потенціал і ризики
Попри розвинену законодавчу базу, як-от Європейський закон про штучний інтелект, інформаційні системи на основі ШІ не були класифіковані як високий ризик, що створює критичну правову прогалину, яка повинна бути заповнена негайно.
BBC звернулася до Apple, коли дізналася про хибну новину, щоб висловити свої занепокоєння і вимагати виправлення ситуації.
У підсумковому сповіщенні відображалися три заголовки: фальшивий про Мангіоне та два правильні — про повалення режиму Башара Асада в Сирії та оновлення новин про президента Південної Кореї Юн Сук Єола.
Перспективи для технологій ШІ у майбутньому
Apple пояснює, що здатність її ШІ до підсумовування дозволяє користувачам швидко переглядати довгі чи множинні сповіщення з важливими деталями безпосередньо на екрані блокування, наприклад, коли груповий чат активний. Проте цей інструмент не завжди точно передає контекст і інколи дає абсурдні підсумки.
Випуск фальшивих новин завжди ставить Apple у незручне становище, особливо коли компанії намагаються переконати користувачів у тому, що ШІ є майбутнім технологічним прогресом.