… В продолжении поста ранее — про попытки разбалансировать ИИ и вывести ее из режима RAG (умного помошника) в общие диалоги.

На картинке еще попытки.

Поэтому, когда вы думаете, что RAG это «достаточно взять ИИ и все будет работать из коробки» — вы сильно заблуждаетесь. Это мало того, что работа с веторизацией и чанками, еще и постоянная шлифовка системных промптов, размера контекста и т.п.

ИИ может быть любая «под капотом», которая позволит вам зажимать ее в рамках вашей базы знаний. Вы же не хотите, чтобы на вашем сайте ИИ — ассистент начал весело отвечать посетителям на вопрос «А кто такой Такер Карслон?» 🙂

p.s. null на картинке — ИИ вернула «ответа нет» на провокационный вопрос 🙂 А по базе знаний отвечет четко.

Русский ИТ бизнес (https://t.me/bezsmuzi)