Sanyanggae LogoSanyanggae

ИИ6 мин чтения

Как ИИ отбирает рекламные сообщения?

Одно и то же сообщение одна функция помечает как «похоже на рекламу», а другая пишет вежливый черновик ответа. Обе называют ИИ — но делают ли они одно и то же?

Иллюстрация: карточки сообщений распределяются в два сортировочных лотка; рядом отдельно лежат карточка ответа и карандаш
Пояснительная иллюстрация, созданная ИИ для сравнения классификации сообщений и создания ответа. Это не экран реального сервиса, не схема нейросети и не результат измерения точности.

Достаточно ли искать слово «бесплатно»?

Представим вымышленный ящик сообщений. Человек может задать правило: «Если есть слово “бесплатно”, отнеси сообщение к рекламе». Это просто, но так можно ошибочно отсеять личное «Помогу бесплатно» и пропустить рекламу без этого слова. Если условия задаёт человек, новые выражения и контекст могут потребовать доработки правил.

ИИ — область шире названия одной такой функции. Она включает поиск объектов на изображениях, планирование маршрутов и подходы к решению задач с помощью знаний и правил. Поэтому не всякий ИИ обучается на данных, а наличие простого условия не делает любую программу ИИ. Важнее названия то, какую задачу и каким способом выполняет система.

Когда примеры меняют классификатор

Другой путь — обучить модель на примерах сообщений, отмеченных как рекламные или нерекламные. Машинное обучение — подход, при котором модель обучают на данных для получения предсказаний или других выходов. И здесь люди проектируют выбор данных и цели. Наличие примеров не означает, что незнакомые выражения будут всегда определяться верно. Наш ящик сообщений — вымышленная сцена для сравнения принципов, а не эксперимент по измерению точности реального сервиса.

При обучении внутренние значения модели подстраиваются под данные и цель. Последующая классификация нового сообщения — инференс, то есть применение обученной модели. Новый ввод не означает, что при каждом использовании эти значения обучаются заново. Использование беседы как контекста также нужно отличать от повторной настройки модели. «Создавать по примерам» и «пользоваться готовой моделью» — связанные, но разные этапы.

  1. Собираем примеры

    Решаем, чему и на каких материалах обучать модель.

  2. Создаём модель

    При обучении подстраиваем её внутренние значения.

  3. Пробуем новое сообщение

    Получаем классификацию при инференсе и сверяем с настоящим сообщением.

Концептуальная схема различает создание обучаемой модели классификации и её использование. Не все системы ИИ работают таким образом.

Отбирать рекламу и писать ответ — разные задачи

Модель, определяющая рекламный характер сообщения, и модель, создающая новый ответ, имеют разные цели вывода. Генеративный ИИ создаёт тексты, изображения, звуки и другой контент; современные системы обычно используют модели, обученные машинным обучением. Само машинное обучение — один из подходов внутри ИИ. Модель, которая только классифицирует сообщения и не пишет текстов, тоже может использовать машинное обучение.

Это деление не раскладывает подходы по непроницаемым коробкам. Один сервис может отбирать сообщения классификатором, писать черновик генеративной моделью и ещё раз обрабатывать результат по правилам человека. Разговорный интерфейс тоже не доказывает, что внутри только одна модель. Даже если классификация, генерация и правила собраны на одном экране, их отдельные роли можно рассмотреть.

Говорить складно и говорить верно — не одно и то же

Гладкий и уверенный ответ или объяснение может не соответствовать фактам. Как классификатор ошибается при выборе, так генеративная модель может создавать убедительные ошибки; проверять результат нужно источниками и оценками, подходящими для задачи. Перепроверьте расчёты и убедитесь, что названия и ссылки на материалы существуют и действительно подтверждают утверждение. Беглость сама по себе не доказывает точности.

В черновике ответа стоит также проверить выдуманные факты и ненужные персональные данные. Перед вводом личной информации или закрытых материалов полезно прочитать правила их обработки сервисом. Сочетание нескольких подходов само по себе не гарантирует ни точности результата, ни безопасной обработки данных. Даже в удобной функции наблюдайте, что вы ввели, какой получили вывод и чем его проверите: так ИИ становится понятнее и конкретнее.

Даже одно сообщение показывает, что за общим названием ИИ скрываются разные задачи. Встретив кнопку «Функция ИИ», сначала спросите: она выбирает или создаёт?