Качество и риски
Галлюцинации, недетерминированность, слабые места поиска по смыслу — то, из-за чего ИИ ошибается. Статьи о природе этих ошибок и способах держать их под контролем.
Цитирование источников: как проверить ответ модели за минуту
Цитирование источников — это ссылка на конкретный фрагмент документа рядом с каждым утверждением модели: ответ проверяется за минуту и годится для решения.
Точка отсечки знаний — что это простыми словами
Точка отсечки знаний — это дата, после которой модель ничего не знает о мире: всё свежее ей приходится передавать вместе с запросом.
Недетерминированность — что это простыми словами
Недетерминированность — это свойство языковой модели отвечать на один и тот же запрос по-разному; разброс сужается форматом ответа, порогом и приёмкой по выборке.
Что такое загнивание контекста и как удержать качество
Загнивание контекста — это падение точности ответов по мере роста объёма переданного текста: окно ещё не заполнено, а нужная деталь уже теряется.
Галлюцинации ИИ: почему модель выдумывает и как это ловить
Галлюцинация — это уверенный ответ модели, который выглядит правдоподобно, но не соответствует действительности: выдуманная ссылка, цифра или пункт регламента.