Проф. Преслав Наков: Независимо от технологиите човек трябва да запази критичното си мислене

Наградата „Джон Атанасов“ се присъжда от президента на Република България от 2003 г. насам за изключителни постижения в световен мащаб на млади български учени и изследователи в областта на компютърните науки.

В поредица от материали „Аз-буки“ представя  лауреати на Наградата, които разказват как се развива тяхната кариера. В този брой наш гост е първият носител на приза „Джон Атанасов“ през 2003 г. проф. Преслав Наков. Разговаряме с него по време на Седмата международна конференция „Компютърна лингвистика в България“, организирана от Института за български език на БАН, където той изнесе лекция на тема „Можем ли да се доверим на информацията, генерирана от AI?“.

Работата на проф. Преслав Наков обединява две основни направления. Първото е разработването и обучението на големи езикови модели, които да използват по-ефективно изчислителните ресурси и да дават по-надеждни и безопасни отговори. Той е ръководил подобни проекти за арабски, казахски и хинди. Второто направление обхваща дезинформацията, пропагандата и медийната пристрастност. Част от него е изследването на начините, по които медиите представят събитията: какви обяснения предлагат, кои факти подбират и върху какво поставят акцент.

Двете направления се срещат в изследванията на надеждността на езиковите модели – как да разпознаваме кога отговорите им може да са неверни, и как да намаляваме тези грешки. Важно е да се оценява и несигурността на модела. Тя обаче е сигнал, който може да насочи проверката, а не доказателство за истинността или неистинността на конкретно твърдение.

„Когато говорим за изкуствен интелект, е полезно да разграничаваме целите на различните изследователски подходи“, обяснява проф. Наков.

Един от тях се стреми да моделира човешкото мислене и поведение. Друг търси ефективни решения на задачи, без непременно да възпроизвежда начина, по който ги решава човекът.

Ако изследваме как човек решава математическа или логическа задача, за нас са важни и стъпките, които следва, времето, което му е необходимо, и грешките, които допуска. Компютърният модел може да ни помогне да разберем тези процеси. Но ако целта е просто да намерим вярното решение възможно най-ефективно, машината няма защо да повтаря същите грешки или да работи със същата скорост.

Проф. Наков дава пример с автомобилите – те се движат на колела, без да подражават на начина, по който се придвижват животните. По подобен начин

инженерните решения в ИИ могат да постигат добри резултати чрез механизми, различни от човешките.

Големите езикови модели са един от подходите за решаване на задачи, свързани с езика, но не изчерпват цялата област на изкуствения интелект.

„Новите технологии често предизвикват страх. Така е било и при навлизането на автомобилите и електричеството. Ако водим този разговор след десет години, може би вече няма да възприемаме изкуствения интелект като нещо екзотично. Той ще бъде част от всекидневието ни“, казва Преслав Наков.

Ученият прави сравнение с компютърната грамотност и владеенето на английски език. В много професии тези умения вече са базово изискване. Това не намалява стойността им, а показва колко широко се използват. Той очаква постепенно същото да се случи и с умението да работим с инструменти с ИИ: да ги включваме във всекидневните си задачи и да преценяваме кога резултатите им са полезни.

Тази преценка е особено важна, когато става дума за информация.

Проф. Наков съветва читателите да проверяват откъде идва една новина, преди да ѝ се доверят.

Никой не може да бъде специалист по всички теми и затова познаването на източника и на начина, по който той работи, е важна опора при оценката на прочетеното.

Навремето изразът „пише го във вестника“ е носел доверие в редакцията, която стои зад публикацията. Това доверие е било свързано с автори, редактори и процедури за проверка на фактите. Днес подобна нагласа понякога се пренася към интернет и социалните мрежи, въпреки че публикуваното там невинаги преминава през редакционен контрол.

Част от хората приемат един текст за достоверен, защото е написан убедително или изглежда професионално. Но

доброто оформление и увереният тон не гарантират, че информацията е проверена.

Някои медии също възприемат езика и похватите на социалните мрежи, за да привлекат внимание. А поведението онлайн има последици и извън интернет – влияе върху доверието, отношенията и решенията на хората.

Търсачките могат да помогнат при ориентирането. Те използват различни сигнали за качеството и надеждността на източниците, за да подреждат резултатите. Това обаче не е гаранция, че всяка публикация, която се появява на челно място, е вярна. Проверка на конкретното твърдение е необходима и когато сме стигнали до него чрез търсачка.

А в социалните мрежи на информацията, която виждаме, влияят контактите ни, следваните страници и алгоритмичните препоръки.

Платформите могат да показват и съдържание от профили, които не следваме. Ако в тази среда постоянно се повтарят едни и същи убеждения, лесно можем да останем с впечатление, че те са общоприети. Затова е важно да търсим и независими източници, вместо да приемаме многократното повторение за потвърждение.

Икономическата страна на проблема също има значение. Проверката на фактите и качествената журналистика изискват време, средства и професионален труд. Част от качественото съдържание е достъпно срещу заплащане, а друго се предлага свободно. Сам по себе си, платеният или безплатният достъп не ни казва дали дадена публикация е надеждна.

Към това се добавя огромният обем информация, който достига до нас всеки ден. Дори специалистите трудно могат да проследят всичко в своята област. Тъкмо затова са нужни умения, които помагат да подбираме източниците и да разпознаваме кога едно твърдение изисква допълнителна проверка.

„Медийната грамотност е сред най-важните дългосрочни средства срещу дезинформацията“, подчертава проф. Наков.

Той дава за пример Финландия, където тя е включена в обучението по различни предмети още от ранна възраст. Учениците се учат да оценяват критично източниците и съдържанието, което срещат.

Този подход не означава, че фалшивите новини изчезват. Той изгражда навици, които помагат на хората да ги разпознават и да ограничават разпространението им. Както филтрите намаляват нежеланата електронна поща, без да премахват спама напълно, така и при дезинформацията целта е да намаляваме вредата. За това са необходими както технически средства, така и критично мислене.

Съществена роля има и навикът да споделяме информация, без да сме я проверили.

За разпространението на една невярна новина е важно не само колко хора ще ѝ повярват, но и колко ще я препратят. Роля имат и автоматизираните профили, известни като ботове, но всеки потребител може да се окаже част от веригата на разпространение.

Една публикация може да достигне до много нови читатели чрез последователни споделяния. Когато по-малко хора я препращат, възможностите за разпространението ѝ се ограничават. Това не означава, че тя непременно ще изчезне – значение има и до колко души достига всяко следващо споделяне. Затова проверката преди натискането на бутона за споделяне е част от медийната грамотност.

Как оценката за достоверността на източника помага да откриваме съмнителни новини по-рано, още преди да са написани?

„Това е свързано с профилирането на сайтовете – обяснява проф. Наков. – Можем предварително да оценим надеждността на даден новинарски източник въз основа на досегашните му публикации и начина, по който работи. Ако той системно разпространява недостоверна информация, това е основание да подхождаме с по-голямо внимание към следващите му публикации.“

Оценката трябва да се актуализира, защото и медиите могат да променят практиките си. Когато в социалните мрежи се появи нов текст с препратка към вече оценен сайт, системата може веднага да сигнализира, че източникът е ненадежден и публикацията се нуждае от проверка.

„В този смисъл, част от работата е свършена още преди новината да бъде написана: вече знаем нещо за нейния източник. Но това не означава, че сме проверили самото твърдение. Репутацията на сайта ни помага да решим какво да проверим по-внимателно. Истинността на конкретната новина трябва да се установи отделно“, уточнява ученият.

А може ли да се доверяваме на информация, генерирана от изкуствен интелект?

„Не без проверка, когато става дума за важни факти“, категоричен е ученият.

Според него големите езикови модели могат да дадат полезен отговор, но и да представят невярна информация съвсем убедително. Увереният тон не е гаранция за достоверност. Затова трябва да се търсят надеждни първоизточници и да се проверява дали посочените цитати и препратки действително съществуват и подкрепят отговора.

Изкуственият интелект трябва да се използва като помощник.

Той може да помогне да подреждаме информацията и да формулираме въпроси. Когато данните не са достатъчни, полезният отговор може да бъде и „не знам“. Човек трябва да запази критичното си мислене – отговорността на какво се доверяваме и какво споделяме, остава наша“, подчертава проф. Преслав Наков.

––––––––

* Проф. Преслав Наков е специалист по обработка на естествен език. Известен е с изследванията си върху откриването на фалшиви новини и дезинформация, както и с обучението на големи езикови модели за различни езици.

Израства във Велико Търново. През 2001 г. завършва магистратура по информатика в Софийския университет със специализации „Изкуствен интелект“ и „Информационни и комуникационни технологии“. Още като студент преподава в университета.

През 2003 г. става носител на първата награда „Джон Атанасов“.

През 2007 г. защитава докторат по компютърни науки в Калифорнийския университет – Бъркли, като част от обучението му е подкрепено със стипендия „Фулбрайт“. След това работи като научен сътрудник в Националния университет на Сингапур. В периода 2012 – 2022 г. е изследовател в Катарския изследователски институт по компютърни науки (QCRI).

От 2022 г. е професор по обработка на естествен език в Университета за изкуствен интелект „Мохамед бин Зайед“ в Обединените арабски емирства.

Свързани статии:

Министър Сергей Игнатов в Студио „Аз-буки“: С 5500 инициативи българските училища отбелязват 150-годишнината от Априлското въстание (ВИДЕО) Близо 20 000 ученици и учители са преминали обучения по киберсигурност Четвъртият форум на частното образование събра 130 участници Еврокомисията прие предварителни констатации за пристрастяващ дизайн на Instagram и Facebook