Инфраструктура за създаване на чатбот с големи езикови модели и контекстно разширяване на инструкциите

Йордан Кралев 1,2), Светла Коева 2)

1)Факултет „Автоматика“, катедра „Системи и управление“,
Технически университет – София
2)Институт за български език „Проф. Любомир Андрейчин“,
Българска академия на науките

https://doi.org/10.53656/math2025-5-4-idl

Резюме. В статията се представя инфраструктура, която интегрира свободно достъпни инструменти и големи езикови модели в персонализиран чатбот. Целта е да се демонстрира как големите езикови модели могат да бъдат използвани с помощта на достъпно като цена GPU, както и възможностите за разширяване на потребителските заявки с допълнителен контекст в зависимост от целите и областта на приложение. Работата на предварително обучени големи езикови модели се демонстрира с помощта на технологията RAG (Retrieval-Augmented Generation, или извличане с разширено генериране) за български за решаване на конкретна задача в дадена тематична област. Избраната задача е резюмиране на документи, а областта е наука и образование. Представеното решение може да се приложи за създаването на други приложения за български език.
Ключови думи: големи езикови модели, изкуствен интелект, чатботове

Свързани статии:

Използването на изкуствен интелект в преподаването на български като чужд Възприемане и оценка на текст – реално интервю и интервю с изкуствен интелект Изкуственият интелект в научните изследвания Изкуственият интелект в образованието на бъдещето