Úttörő jelentőségű kutatás zajlott nemrég hazánkban: most először vizsgálták a mesterséges intelligencia IT-biztonságra és mentális egészségre gyakorolt hatásait. Az AI már most újraírja a valóságérzékelésünket, a felhasználók jelentős része már nehezen vagy egyáltalán nem tudja megkülönböztetni, mikor szembesül AI-tartalommal, és mikor valódival. Eközben az emberek egy része már most is jobban bízik az AI válaszaiban, mint a saját megítélésében.
Március 23-án, hétfőn, sajtóesemény keretében mutatta be a MI a baj? – Mesterséges intelligencia, IT-biztonság és mentális egészség című iparági white paper-ét az ESET magyarországi képviseletét ellátó Sicontact Kft.
A cég megbízásából készült reprezentatív kutatás eredményeit egy iparági riportban foglalják össze, amely úttörő jelentőségű hazánkban. Magyarországon korábban nem készült még olyan átfogó elemzés, amely egyszerre vizsgálta volna személyes és vállalati környezetben a mesterséges intelligencia használatának IT-biztonsági és mentális egészségre gyakorolt hatását.
A kutatás célja az volt, hogy feltérképezze, hogyan viszonyulnak a magyar felhasználók az AI-technológiákhoz, milyen mértékben és mire használják azokat a mindennapokban, hogyan formálja az AI a felhasználók biztonsági döntéseit, és milyen új, kevéssé vizsgált kockázatokat jelent ez a vállalatok számára a digitális biztonság, pszichés jólét és munkáltatói szempontokból.
Nem az a kérdés, használjuk-e az AI-t, hanem, hogy mennyire veszítjük el a kontrollt felette
Az eredmények rámutattak, hogy a mesterséges intelligencia rohamos gyorsasággal vált a mindennapi élet részévé: a felhasználók egyre szélesebb köre alkalmazza különböző feladatokra, – legyen az magán vagy céges környezet -, ugyanakkor ezzel párhuzamosan nő a vele kapcsolatos bizonytalanság és a rejtett kockázatok száma is.
A kutatás egyik legfontosabb megállapítása szerint
Az AI használata annyira elterjedt vállalati környezetben is, hogy már nem lehet megállítani, így a legsürgetőbb kérdés az, hogy ez kontrollált vagy kontrollálatlan módon történik-e a szervezetekben.
A munkáltatóknak kritikus szerepe van abban, hogy szabályok közé tereljék házon belül az AI használatát. Egyrészt tudatosítsák és képezzék a munkavállalóikat, hogy megértsék az AI korlátait és lehetséges hibáit, másrészt az üzleti szempontból kritikus döntések esetén kötelező legyen az emberi ellenőrzés; valamint állítsanak fel technológiai korlátokat, amelyek segítenek kiszűrni a kockázatos használatot és támogatják az ellenőrizhetőséget.
A válaszadók jelentős része felismerte, hogy az AI egyre gyakrabban jelenik meg az online csalások és megtévesztések eszközeként.
A mentális egészség dimenziójában a kutatás azt mutatta, hogy az AI használata ambivalens hatással bír. Miközben növeli a hatékonyságot és megkönnyíti a mindennapi feladatokat, fennáll a veszélye annak is, hogy csökkenti a kritikai gondolkodást, valamint erősíti a technológiától való függést. A felhasználók egy része hajlamos túlzott bizalmat helyezni az AI által generált válaszokba, ami hosszabb távon torzíthatja a döntéshozatalt és a valóságról alkotott képet.
„Az AI-technológia eljutott a tömegekhez, emiatt pedig nem túlzás azt állítani, hogy épp paradigmaváltáson esünk át, amelynek eredményeként teljesen át fog alakulni a valóságról alkotott képünk”
– mondta a kutatás kapcsán Béres Péter, az ESET biztonsági szoftvereit forgalmazó Sicontact Kft. IT-vezetője.
„Részben ez a gondolat hívta életre ezt a kutatást, mert azt gondoljuk, hogy az AI-technológiák széleskörű elterjedése, – éppen azok népszerűsége miatt – , sok területre lesz komoly hatással. Ilyen az IT-biztonság világa is, ami számunkra, az ESET termékeinek forgalmazójaként és IT-biztonsággal foglalkozó cégként kiemelten fontos terület. Már most is látszik, hogy az AI-generált tartalmak az informatikai megtévesztések, csalások, rosszindulatú műveletek egyik elsőszámú fegyverévé váltak.”
A white paper elkészítésében a Sicontact Kft. által felkért neves szakértők működtek közre, akik saját szakterületük szemszögéből értelmezték a kutatás eredményeit.
„Az AI egyszerre jelent soha nem látott hatékonyságú technológiát, lenyűgöző emergens képességeket, ugyanakkor, kiberbiztonsági szempontból hatalmas kockázatokat”
– mondta Keleti Arthur, kibertitok jövőkutató.
„Ezzel a technológiával meg kell tanulnunk egymás mellett élni, sőt támaszkodni egymás képességeire, meg kell találnunk a megfelelő egyensúlyokat és megfelelően fel kell készülni az AI-eszközök használatára. Tiltás helyett a megismerésben és a technológia megértésében látom a helyzet kulcsát, valamint abban, hogy sürgősen meg kell határoznunk az AI megoldások státuszát. Az AI több mint eszköz, de más mint az ember.”
„A mesterséges intelligencia olyasmi, amit ma már nem tudunk különválasztani a valóságtól”
– mutatott rá Kerek István AI-üzletfejlesztési szakértő, az EVERENGINE Kft. ügyvezetője és tulajdonosa.
„Olyan paradigmaváltásról van szó, ami forradalmasítja a mindennapjainkat, ezért fontos, hogy ne kizárjuk az életünkből, hanem fejlődjünk a változással. A tudatos használat lényege, hogy a hasznosságot nem keverjük össze a hitelességgel. Az AI gyorsít és támogat, de az ellenőrzés felelőssége végig a mi oldalunkon marad.”
„Az AI nem csodafegyver, amely önmagában, emberi beavatkozás nélkül képes lenne minden problémát, feladatot megoldani, hanem egy hatékony segítség ebben”
– fejtette ki Csizmazia-Darab István, az ESET termékeit forgalmazó Sicontact Kft. IT-biztonsági szakértője.
„A használata pedig nem előny, hanem az kerül komoly hátrányba, aki nem ismeri, nem használja ezt a technológiát.”
„Azt hiszem, a legnagyobb hibát akkor követjük el, ha az AI használata során nem vesszük észre a kognitív és érzelmi képességeink visszaszorulását és átlagemberként pozitív érzelmi kapcsolatot építünk az algoritmussal, ahelyett, hogy, megtartva a kritikai gondolkodást, eszközként kezelnénk”
– figyelmeztetett Tari Annamária klinikai szakpszichológus.
A MI a baj? – Mesterséges intelligencia, IT-biztonság és mentális egészség című white paper teljes terjedelmében letölthető az ESET magyar aloldaláról, valamint elérhető a www.miabaj.hu oldalról is.
További friss híreket talál a www.lathatatlanegyetem.hu főoldalán! Kövesse a technológiai híreket és csatlakozzon hozzánk a Facebookon is!
