Изненађујући разлог зашто АИ греши када даје здравствене савете

Вештачка интелигенција се све више "увлачи" у нашу свакодневицу - помаже код писања или решавања сложених проблема за неколико секунди. Логично је да су управо зато многи почели да је користе и за оно најважније: Здравље. Ипак, колико је заиста паметно препустити симптоме алгоритму?

Да би тестирали колико добро четботови засновани на великим језичким моделима помажу у разумевању уобичајених симптома, истраживачи са Оксфорда су спровели једноставну студију: Учесницима су дати кратки описи здравствених проблема, а затим су или користили четбот - да их посаветује - или су се ослањали на уобичајене изворе. На крају су морали да добију одговоре на два кључна питања: Шта би могао бити узрок симптома и где треба потражити помоћ.

Резултати нису били охрабрујући - они који су користили четботове ређе су добијали тачну дијагнозу, а нису били ни успешнији у процени где да се обрате за помоћ. Другим речима, четботови им нису донели стварну корист.

Занимљиво је да проблем није у недостатку знања, јер када су исти сценарији дати директно четботовима, без људског посредовања, резултати су били знатно бољи - системи су у већини случајева препознавали релевантна стања и предлагали одговарајући ниво неге.

Где онда настаје проблем? У комуникацији. У разговорима са људима, четбот би често негде поменуо тачну дијагнозу, али корисници то нису увек препознавали или памтили. Понекад су давали непотпуне информације, а дешавало се и да четбот погрешно протумачи кључне детаље. Испада да је јаз између човека и машине већи проблем од самог "знања" алгоритма.

Ово открива и друге слабости начина на који се вештачка интелигенција тестира. На формалним тестовима и у контролисаним условима, модели делују импресивно, али стварни живот је непредвидљив: Људи не описују симптоме довољно јасно и често погрешно разумеју одговоре. У таквом окружењу, перформансе четбота нагло падају.

Управо ту се види разлика између машине и улгое човека у медицини. Рад лекара није само препознавање симптома, већ и разумевање приче пацијента, постављање правих питања и изградња поверења, а то је тешко "уклопити" са алгоритмом. За сада, барем, здравствене одлуке и даље захтевају људско расуђивање, разумевање контекста и емпатију, преноси "Сајенс алерт".

То, међутим, не значи да вештачка интелигенција нема место у медицини. Данашњи четботови много боље функционишу као "невидљива подршка" у сређивању информација, писању белешки, сумирању картона или припреми документације. Ту су већ корисни и штеде време. Поред тога, до сада се АИ користила за откривање и усавршавање многих лекова и терапија широм света, а време ће показати да ли ће се комуникација са људима у овом пољу побољшати.