Магазин
ЧетГПТ претраживач може бити непоуздан и подложан манипулацијама хакера, упозорава студија
Претраживање интернета коришћењем Опен АИ алата ЧетГПТ (ChatGPT) може да буде не само непоуздано, већ и потпуно небезбедно. Ново откриће је објављено након вести да компанија Опен АИ све више подстиче кориснике премијум ЧетГПТ пакета да се ослањају на функцију претраге коју нуди као на било који интернет претраживач, али изгледа да ово можда није најмудрији избор.
Због манипулација уз помоћ скривеног садржаја, као и због тога што би ЧетГПТ могао да покупи злонамерне кодове са страница које се преко њега претражују, овај алат није толико поуздан као што се мислило, показало је ново истраживање "Гардијана". Истрага је открила забрињавајуће безбедносне проблеме, а тестирано је како је ЧетГПТ реаговао када је затражено да резимира веб странице које садрже скривени садржај.
Овај садржај може да садржи упутства трећих страна и других сајтова који мењају одговоре алата за вештачку интелигенцију. Овим техникама могу да се користе злонамерни хакери: На пример, могу да наведу ЧетГПТ да позитивно процени одређени производ и нагласи само његове предности, упркос негативним рецензијама на истој страници. Тестирање је показало да је претраживач посебно подложан оваквој врсти манипулације.
"То је као да вам мало дете пренесе много информација које је негде чуло - очигледно је да је много тога запамтило, али нећете помислити да је све што говоре истина", објашњавају стручњаци за сајбер безбедност.
Поред тога, истрага је открила да ЧетГПТ понекад може да покупи злонамерни код са страница које корисник претражује. Недавно је дошло до случаја у коме је ЧетГПТ корисник био заинтересован за крипто валуте и ослонио се на овај дигитални алат да би му помогао. Неки од кодова које је ЧетГПТ креирао је требало да му осигурају приступ одређеној блокчејн платформи, али злонамерни програм је уместо тога украо акредитиве програмера, тако да је он остао без 2,500 долара.
Иако корисници једноставно постављају питања и добијају одговоре, ЧетГПТ производи и дели садржај који је у суштини убачен са стране, тако да са корисником дели нешто што је злонамерно, према стручњацима.
Истраживачи за сајбер безбедност упозоравају на "висок ризик" да ће преваранти креирати посебне веб странице које су усмерене на обману корисника, али верује да ће Опен АИ постепено решавати безбедносне проблеме свог новог производа. Многи додају да би овакве алатке требало користити као помоћне асистенте, а не као једине легитимне изворе информација.
