Актуальна тема: Ідея аналізу даних користувачів з пристроїв Apple для тренування своїх моделей ШІ не буде схвально сприйнята багатьма. Тим не менш, компанія впроваджує цей підхід, прагнучи вдосконалити свої сервіси Apple Intelligence. Проте в Купертіно запевняють, що їх унікальний підхід до цього процесу гарантує захист приватності користувачів.

Як працює диференціальна приватність Apple для захисту даних

Apple зазначає, що їх метод «диференціальної приватності» передбачає спочатку створення синтетичних даних, які імітують формат та важливі характеристики реальних даних користувачів, таких як електронні листи.

«При створенні синтетичних даних наша мета – генерувати синтетичні речення або електронні листи, які достатньо схожі за тематикою чи стилем на реальні для покращення наших моделей підсумовування, але без збору реальних листів з пристроїв», – йдеться у повідомленні компанії.

Як Apple використовує синтетичні дані для вдосконалення ШІ

Синтетичні дані конвертуються в так звані «embedding» — числові представлення, що містять ключові атрибути, такі як мова, тема та довжина тексту.

Apple надсилає ці embeddings на пристрої користувачів, які погодились поділитися своїми даними в рамках програми Device Analytics. Ці пристрої обирають зразок нещодавніх листів користувача та обчислюють їх embedding. Кожен пристрій визначає, який з синтетичних embeddings є найбільш схожим на зразки, що дозволяє оцінити точність моделей Apple та поліпшити їх, якщо це необхідно.


Apple AI training model

Захист приватності користувачів при використанні ШІ

Apple наголошує, що не збирає електронні листи чи текстові повідомлення користувачів, а лише отримує загальні підказки, що використовуються часто. Більше того, дані з пристрою не асоціюються з IP-адресами чи ідентифікаторами, які можуть бути пов’язані з обліковим записом Apple.

Згідно з повідомленням, диференціальна приватність дозволяє Apple навчати свої моделі ШІ для покращення текстових результатів, таких як підсумовування електронних листів, водночас захищаючи приватність користувачів.

Як диференціальна приватність впливає на розвиток Apple Intelligence

Apple використовує диференціальну приватність для удосконалення своїх моделей Genmoji та планує застосовувати її для таких сервісів, як Image Playground, Image Wand, Memories Creation, Writing Tools і Visual Intelligence.

Компанія запустить цю систему навчання ШІ в бета-версії iOS та iPadOS 18.5 і macOS 15.5.

Apple завжди пишалася своєю політикою конфіденційності. Хоча підхід диференціальної приватності є кращим за використання даних без дозволу користувачів, він може призвести до того, що система Apple Intelligence не буде настільки ефективною, як у конкурентів.