Что происходит внутри
Метафора про искусственный мозг мешает понять механику, поэтому лучше без неё.
Языковая модель обучена на большом объёме текста решать одну задачу: по началу фрагмента предсказать продолжение. Миллиарды повторений этой задачи формируют статистическую картину языка — какие слова и в каком порядке обычно следуют друг за другом в каком контексте.
Когда вы задаёте вопрос, модель не ищет ответ. Она достраивает текст: подбирает продолжение, наиболее вероятное для такого начала. Если в данных встречалось много верных ответов на похожие вопросы, продолжение окажется верным. Если не встречалось — продолжение всё равно будет, просто неверное.
Почему ошибки выглядят убедительно
У модели нет отдельного состояния «я не знаю». Уверенность формулировки определяется не наличием знания, а тем, насколько типична такая формулировка в языке.
Именно поэтому выдуманная ссылка на несуществующее исследование выглядит как настоящая: у неё правильная структура — фамилия, год, название журнала. Модель воспроизвела форму, потому что формы в данных было много, а конкретного содержания не было.
| Тип запроса | Надёжность | Почему |
|---|---|---|
| Объяснить понятие | Высокая | Определения многократно повторялись в данных |
| Переформулировать текст | Высокая | Задача чисто языковая, знания не требуются |
| Назвать точную цифру | Низкая | Числа не выводятся из статистики языка |
| Дать ссылку на источник | Низкая | Форма ссылки воспроизводима, содержание — нет |
| Рассказать о малоизвестной компании | Низкая | В данных мало или нет упоминаний |
| События после обучения | Отсутствует | Данных физически не было |
Модель и поиск — разные механизмы
Это различие постоянно смешивают, а оно определяет, чего ждать от ответа.
Генерация из памяти. Модель отвечает тем, что усвоила при обучении. Быстро, без ссылок, с риском устаревания и выдумки.
Генерация с поиском. Ассистент сначала ищет документы, потом пересказывает найденное и ставит ссылки. Медленнее, но проверяемо — и именно в этом режиме имеет смысл говорить о видимости сайта в ответах.
Режим не всегда очевиден пользователю. Признак простой: есть ссылки на источники — был поиск; нет ссылок — ответ из памяти.
Что из этого следует для маркетинга
Первое. Если ваш бренд не упоминался в открытых источниках, в ответах из памяти его не будет — и никакая оптимизация сайта этого не изменит, потому что сайт в этом режиме не читается.
Второе. Модель может уверенно сообщить о вашей компании неверные сведения: перепутать город, приписать чужие услуги, назвать несуществующую цену. Это не злой умысел системы, а следствие механики — она достраивает вероятное.
Третье. Проверять надо руками. Спросите у нескольких ассистентов о своей компании и о ключевом коммерческом запросе ниши. Ответ покажет, что модель знает и кого рекомендует. Это единственный способ узнать: изнутри системы такой информации нет.
Как это выглядит на практике, разбирается отдельно по площадкам: ответы Яндекс Нейро и трафик из ChatGPT устроены по-разному и измеряются тоже по-разному.
Спорное место
Разговор о нейросетях в маркетинге быстро скатывается к одному из двух полюсов: либо «это заменит поиск», либо «это игрушка, которая всё выдумывает».
Обе позиции мешают работать. Модель — инструмент с известной областью применимости: она хорошо переформулирует, объясняет устоявшееся и структурирует, и плохо работает с точными фактами, свежими событиями и малоизвестными сущностями. Полезнее держать в голове эту границу, чем спорить о том, революция это или пузырь.
Частые вопросы
Чем нейросеть отличается от поисковика?
Почему модель выдумывает факты?
Можно ли доверять цифрам от нейросети?
Модель знает про мою компанию?
Источники
- Большая языковая модель — Wikipedia