Apple предупредила инвесторов, что ИИ-агенты могут действовать непредсказуемо

Apple включила в годовой финансовый отчёт предупреждение об ИИ-агентах: по оценке компании, такие системы способны поступать «непредвиденным или непредсказуемым образом». Как сообщает 3DNews со ссылкой на документ, это отнесено к рискам для бизнеса, среди которых судебные иски и ущерб репутации.

Что Apple написала об автономности агентов

В отчёте ИИ-агенты описаны как системы, которые «могут совершать действия автономно: взаимодействовать с внутренними или внешними системами (к которым у них, возможно, нет прав доступа), выполнять или изменять программный код, отправлять сообщения и проводить транзакции». Именно самостоятельность таких программ, судя по формулировкам, и делает их источником угрозы: ошибочное действие агента может обернуться претензиями к компании и ударить по её имиджу.

Читайте также: ИИ-агенты могут спровоцировать массовое бегство вкладчиков из банков — предупреждение экономиста Apollo

Чтобы снизить связанные с этим риски, Apple в прошлом месяце изменила систему предоставления полного доступа к диску (Full Disk Access) на компьютерах Mac. Эта функция определяет, какие программы могут обращаться к данным на устройстве, поэтому именно к ней приковано внимание в разговоре об агентах.

Регулирование и этические опасения

Помимо самих агентов, компания обратила внимание инвесторов на неопределённость вокруг правил игры в отрасли. Согласно отчёту, в числе рисков указаны:

• регулирование в сфере искусственного интеллекта и «суперинтеллекта» меняется и остаётся непредсказуемым;
• адаптация к новым законам об ИИ может потребовать значительных затрат;
• этические опасения и негативное восприятие потребителями автоматизации, искусственного интеллекта и суперинтеллекта, включая тревогу по поводу угроз безопасности и других общественных проблем.

Таким образом, Apple рассматривает ИИ не только как технологическую возможность, но и как источник юридических и репутационных издержек, которые трудно рассчитать заранее.

Читайте также: Глава Google Сундар Пичаи предупреждает об угрозах свободе интернета

Тернус о Siri и приватности

Хотя собственных агентных ИИ-систем у Apple пока нет, гендиректор Джон Тернус отметил «значительный потенциал» для расширения возможностей голосового помощника Siri. Агентные функции он назвал «перспективными инструментами для пользователей». Ранее Apple уже открыла Siri доступ к сторонним приложениям в предварительной версии iOS 27.3.

По словам Тернуса, главная задача — прозрачность для пользователя:

«Мы просто хотим убедиться, что пользователи понимают, к чему именно они предоставляют доступ. Наша задача — гарантировать, что всё это происходит с соблюдением требований безопасности и конфиденциальности».

Чем подход Apple отличается от конкурентов

Тернус подчеркнул, что принципиальное отличие Apple в том, что компания не имеет доступа к конфиденциальным данным пользователей на их устройствах. По его словам, на iPhone хранится огромное количество личных данных: «контакты, переписка, информация о здоровье, финансовые сведения и многое другое». Siri, как он пояснил, может обращаться к ним, помогая работать с ними «максимально безопасно и конфиденциально — так, что никто другой не получит к ним доступа».

3DNews отмечает контраст с рынком: коммерческие ИИ-агенты OpenAI и других компаний для повышения эффективности запрашивают широкий доступ к учётным записям пользователей, включая электронную почту.

За осторожностью Apple стоит и деловой расчёт. Компания рассчитывает, что ИИ-функции Siri подтолкнут владельцев к обновлению устройств и помогут компенсировать рост расходов, связанный с ИИ-бумом. Поэтому в отчёте, адресованном инвесторам, перспективы нового направления соседствуют с прямым перечнем того, что может пойти не так.