Чому важливо перевіряти новини: приклад помилки в AI
Не вперше ми стикаємося з прикладом, який демонструє, чому не можна покладатися на генеративний штучний інтелект у всіх аспектах нашого життя. Цього разу компанія Apple Intelligence, яка вже неодноразово допускала серйозні помилки, опублікувала хибний заголовок. У ньому було вказано, що Луїджі Манйоне, чоловік, заарештований у справі про вбивство CEO UnitedHealthcare Брайана Томпсона, застрелив себе. Це призвело до того, що BBC звернулася до Apple з вимогою виправити помилку.
Особливості технології Apple Intelligence
Одна з функцій Apple Intelligence – це здатність створювати зведення повідомлень, що були введені в iOS 18.1. Ця функція дозволяє користувачам переглядати довгі або накопичені повідомлення з основними деталями на екрані блокування, наприклад, коли в груповому чаті особливо активні повідомлення. Новини також відображаються в цих стиснутих сповіщеннях. Однак іноді ці заголовки можуть бути неточними.
Хибні заголовки в зведеннях Apple Intelligence
Наприклад, сповіщення з BBC News, яке містило три заголовки, було частково невірним. Заголовки про повалення режиму Башара Асада в Сирії та оновлення ситуації з президентом Південної Кореї Юн Сук Йолом були точними, але частина про самогубство Манйоне була помилковою – він залишався під арештом.
Проблеми з точністю повідомлень у генеративних AI
Це далеко не перший випадок, коли повідомлення від Apple виявляються неточними. У червні було опубліковано зведення, яке помилково повідомляло, що ізраїльський прем’єр-міністр Біньямін Нетаньяху був заарештований після рішення Міжнародного кримінального суду, хоча це не відповідало дійсності.
Чому штучний інтелект потребує контролю людини
Кілька останніх інцидентів на платформі X (колишній Twitter) показали, як генеративний AI не завжди розуміє контекст. Наприклад, зведення, яке описувало пішохідний похід як «спробу самогубства», або заяву про те, що сонце має впасти на Землю, що призведе до затримок поїздів Амтрак у південному заході Балтимора, чітко показують, що такі системи потребують людського нагляду.
Контекст важливий для точності повідомлень
Ще один приклад демонструє недостатнє розуміння контексту штучним інтелектом. У жовтні розробник із Нью-Йорка отримав сповіщення від свого партнера з повідомленням на день народження: «Більше не в стосунках; хоче забрати свої речі з квартири», що є далеко від реальної ситуації.