ИИ уже умеет покупать за нас. Теперь главный вопрос — сколько личного мы готовы ему показать

Ещё недавно нейросеть была собеседником.

Мы задавали вопрос, она отвечала.

Теперь всё меняется гораздо быстрее.

Современный ИИ-агент уже может не просто рассказать, где дешевле купить билет или товар. Он способен сам искать варианты, заполнять формы, следить за ценой, оформлять возврат, работать с календарём, файлами и сообщениями.

Звучит удобно.

Но у этой удобности появилась цена, о которой пока говорят гораздо меньше.

Чтобы действительно работать вместо человека, ИИ должен видеть то, с чем работает сам человек.

Нужно составить расписание — потребуется календарь.

Нужно ответить на письмо — нужен доступ к переписке.

Нужно заполнить документ — придётся прочитать файл.

Нужно вернуть покупку — понадобятся данные заказа.

Чем полезнее становится агент, тем больше контекста ему приходится открывать.

И именно здесь на этой неделе произошла интересная история.

2 октября Apple объявила, что собирается ужесточить механизм Full Disk Access на компьютерах Mac.

Название звучит технически, но смысл очень простой.

Полный доступ к диску способен открыть приложению практически весь цифровой шкаф человека: файлы, почту, сообщения, историю браузера и данные других программ.

Изначально такой режим был нужен, например, приложениям резервного копирования.

Теперь он становится особенно чувствительным из-за ИИ-агентов.

Apple прямо пишет: по мере того как агенты становятся более способными и автономными, риск такого широкого доступа существенно растёт.

Компания хочет сделать выдачу подобных разрешений гораздо более явным действием, чтобы человек точно понимал, что именно он открывает программе.

Повод для дискуссии получился показательный.

Вокруг ИИ-агента Muse от Meta появились претензии к тому, насколько понятно пользователю объясняется доступ к данным на Mac.

Meta с обвинениями в несанкционированном чтении личных сообщений не согласилась и заявила, что агент работает только с теми разрешениями, которые дал пользователь.

И вот здесь спор о конкретном приложении для меня уже менее интересен, чем сама проблема.

Потому что она никуда не исчезнет даже после исправления всех настроек.

Умный помощник без доступа к данным ограничен.

Помощник с широким доступом становится намного полезнее — и одновременно требует гораздо большего доверия.

Meta, например, уже описывает своего агента как систему, которая может работать с сообщениями, календарём и заметками с разрешения владельца.

В покупках такой агент способен искать предложения, следить за ценой, покупать и даже заниматься возвратами.

Доходит до того, что для оплаты создаётся одноразовый номер карты, чтобы настоящий номер не передавался продавцу и самому агенту.

То есть мы постепенно переходим в совершенно другую эпоху.

Раньше главный вопрос звучал примерно так:

«Насколько хорошо ИИ отвечает?»

Потом:

«Насколько часто он ошибается?»

Теперь появляется третий:

«Что именно ему разрешено делать, если он ошибётся?»

Разница огромная.

Ошибка чат-бота может дать неверный текст.

Ошибка агента с доступом к файлам, переписке и действиям на сайтах потенциально затрагивает уже реальную жизнь человека.

Особенно интересно это выглядит для бизнеса.

На рабочем компьютере лежат договоры, счета, коммерческие предложения, таблицы с выручкой, данные клиентов, переписка сотрудников.

ИИ действительно может сэкономить часы работы с этими документами.

Но чем глубже его встраивают в процессы, тем важнее становится уже не только качество модели, а система разрешений вокруг неё.

По сути, появляется новая цифровая валюта — доступ.

Мы платим не рублями и не подпиской.

Мы платим частью контекста своей жизни.

И здесь нет простого ответа «да» или «нет».

Без доступа агент остаётся красивым собеседником.

С доступом он превращается в настоящего исполнителя.

Поэтому, похоже, ближайшая большая гонка ИИ будет идти не только за интеллект.

Она будет идти ещё и за доверие.

Кому человек позволит читать свои документы?

Кому даст доступ к календарю?

Кому разрешит делать покупки?

А кому — только отвечать на вопросы?

А вы бы дали ИИ доступ к своей переписке, календарю и файлам, если бы он действительно экономил вам несколько часов каждую неделю?

#базарактив #ИИ #искусственныйинтеллект #технологии #безопасность #данные #экономика #бизнес #нейросети #цифровизация