Жеља да се што пре добије одговор на питања о здрављу учинила је четботове популарним "саговорницима". Корисници су често уморни од неизвесности, тако да вештачка интелигенција која је увек доступна и спремна да одговори може деловати као идеалан помоћник.
Међутим, покушаји да се симптоми самостално протумаче уз помоћ алгоритама носе озбиљне ризике. АИ не може да обави физички преглед, измери крвни притисак нити непосредно процени стање пацијента. Њени одговори заснивају се на обрасцима у подацима на којима је обучена, па могу да буду погрешни и да кориснику пруже лажну сигурност или изазову непотребну панику.
Забележени су чак и случајеви у којима је претерано ослањање на савете АИ довело до одбијања операција које су могле да спасу живот или до поступања по опасним препорукама, са озбиљним последицама.
Вештачка интелигенција не може да замени лекара
Једно од главних ограничења АИ јесте то што нема стварну емпатију, клиничко искуство нити одговорност за последице својих савета. Лекарски преглед и психотерапијски разговор подразумевају непосредан контакт са пацијентом, током којег стручњак користи професионално знање, искуство, процену и методе физичког прегледа.
За разлику од лекара, четбот генерише одговоре на основу образаца у подацима и може да се прилагоди очекивањима корисника, али не преузима одговорност за последице добијених савета.
Додатни проблем су такозване халуцинације вештачке интелигенције - ситуације у којима систем самоуверено износи измишљене, непоуздане или потенцијално опасне информације.
Алгоритам такође не може поуздано да узме у обзир све индивидуалне карактеристике организма, скривене хроничне болести и могуће интеракције лекова на начин на који то може квалификовани лекар.
За шта можете безбедно да користите АИ када је реч о здрављу
АИ може да буде користан помоћни алат за рад са медицинским информацијама, под условом да се не користи као замена за стручну процену. На пример, четбот може да објасни сложене медицинске термине или резултате анализа једноставнијим језиком, као и да помогне у припреми питања за лекарски преглед.
Такође, АИ може да пружи информације о томе како изгледају медицинске процедуре, попут магнетне резонанце, што може да смањи страх. Корисна је и за организовање медицинске документације, сређивање хронологије симптома и припрему података које пацијент жели да подели са лекаром. Ипак, вештачкој интелигенцији не треба препуштати постављање коначне дијагнозе, одређивање дозе лекова или одлучивање о одустајању од лекарског прегледа, преноси "РТ на руском".