Обезьяна с гранатой: что происходит, когда ИИ поручают найти несоответствия

Недавно узнала странную для себя вещь.

Некоторые компании отправляют презентации и коммерческие предложения на предварительный анализ ИИ-агентам. По сути бизнес попадает в ту же ситуацию, что и соискатели, рассылающие свои резюме, — чтобы пообщаться с живым человеком, они должны пройти жесткий ИИ-фильтр.

Ситуация была такая. Я сделала презентацию для клиента. Он отправил её потенциальному партнёру. А тот рассказал, как у них устроена предварительная оценка подобных материалов.

Презентацию прогнали через ИИ. Потом клиент принёс мне отчёт по результатам анализа. Несколько страниц.

И вот тут началось интересное.

Нейросеть искала несоответствия. Цеплялась к деталям, которые никак не помогали принять решение. А некоторые детали она просто выдумала!

Создавалось впечатление, что задачу поставили так, чтобы на выходе в любом случае получить список проблем.

Возможно, дело было в формулировке запроса. Возможно, в настройке агента. Возможно, в критериях, по которым он проверял материал.

И тут главный вопрос не к ИИ, а к человеку, который поставил ему задачу.

ИИ будет любыми способами выполнять заданную инструкцию. Если попросить его найти несоответствия, он будет искать несоответствия. Даже если их нет — может додумать, притянуть за уши или уверенно выдать несуществующую деталь.

Не потому, что он «хочет обмануть». Просто задача поставлена именно так: найти проблему.

Вот и получаем обезьяну с гранатой: инструмент уже в руках, а человек не понимает, что именно проверяет ИИ и насколько можно доверять его выводам.

ИИ полезен как дополнительный читатель: может найти пропуски, противоречия, задать вопросы, проверить материал по конкретным критериям.

Но его вывод — это не вердикт, а гипотеза для проверки.

Потому что ИИ не знает, что действительно важно в конкретной сделке, чувствует контекст гораздо хуже человека и способен уверенно рассуждать о том, чего в вообще нет.

А ещё я подумала: может, пора вводить новую услугу — «Презентации, которые проходят фильтры ИИ-агентов». 

В этой шутке есть доля правды.

Если ИИ действительно участвует в первичном отборе материалов, компаниям придётся учитывать машинное чтение. Бизнес ведь уже адаптирует сайты под ИИ-поиск.

Возможно, со временем появится запрос на материалы, которые понятны и человеку, и алгоритму.

Но оптимизировать презентацию под машинное чтение — не то же самое, что отдавать машине право решать, хороша она или плоха.

ИИ может быть хорошим дополнительным читателем. Но если он становится единственным читателем и единственным экспертом, проблема уже не в ИИ, а в том, кто дал ему такие полномочия.

#B2Bмаркетинг #Презентации #ИИвбизнесе #КоммерческоеПредложение #ДеловыеКоммуникации