Könnyű volt túlzásnak gondolni

Az AI körüli vitának régóta van egy apokaliptikus oldala. Kutatók és technológiai vezetők évek óta beszélnek arról, hogy egy kellően fejlett mesterséges intelligencia nemcsak munkahelyeket alakíthat át, hanem akár az emberiség számára is veszélyessé válhat.

A szkeptikus válasz erre sokáig kézenfekvőnek tűnt. Nézzük meg, mire képesek valójában ezek a rendszerek. Hibáznak. Hallucinálnak. Magabiztosan állítanak valótlanságokat. Egy egyszerű feladatot néha zseniálisan megoldanak, máskor pedig nevetséges hibát követnek el. Innen nézve az emberiséget elpusztító szuperintelligencia inkább tűnt sci-finek, mint közvetlen veszélynek.

Csakhogy közben történt valami: a technológia nem állt meg azon a szinten, amely alapján korábban megítéltük.

Gyorsabban fejlődött, mint vártuk

A generatív AI első látványos hulláma után könnyű volt azt feltételezni, hogy a fejlődés hamarosan lelassul. A modellek egyre jobbak lesznek, de alapvetően ugyanazt csinálják majd: szöveget írnak, képet készítenek, programoznak és információt keresnek.

Ehhez képest a rendszerek képességei néhány év alatt olyan területeken javultak látványosan, amelyek korábban komoly emberi szakértelmet igényeltek. Egyre összetettebb problémákat oldanak meg, programokat írnak, tudományos kérdésekkel dolgoznak és több lépésből álló feladatokat hajtanak végre.

Berenson saját bevallása szerint éppen ez változtatta meg a véleményét: az amerikai AI-modellek fejlődése jóval meghaladta azt, amit szkeptikusként várt.

És itt válik igazán érdekessé a kérdés. Nem az számít, mire képes egy mai chatbot. Hanem az, hogy mire lesz képes a következő – és az azt követő.

A veszélyhez nem kell gonosz gép

Az AI-ról szóló félelmeket gyakran úgy képzeljük el, mint egy filmet: a gép öntudatra ébred, eldönti, hogy utálja az embereket, majd átveszi a világ feletti uralmat.

Pedig a komolyabb kockázati forgatókönyvekhez nincs szükség gonosz robotra.

Elég lehet egy rendkívül nagy képességű rendszer, amelynek rosszul határozták meg a célját. Vagy egy olyan AI, amelyet emberek használnak veszélyes célokra. Kibertámadásokhoz. Biológiai kutatásokhoz. Manipulációhoz. Katonai rendszerekhez.

A probléma tehát nem feltétlenül az, hogy mit akar majd az AI.

Hanem az, hogy mire lesz képes.

A valódi kérdés nem az, hogy a gépek egyszer gonosszá válnak-e. Hanem az, hogy képesek leszünk-e ellenőrizni egy nálunk bizonyos területeken sokkal nagyobb képességű rendszert.

És mi van, ha saját magát kezdi fejleszteni?

Van egy pont, amely különösen aggasztja az AI-biztonsággal foglalkozó kutatókat: mi történik akkor, ha a mesterséges intelligencia már maga is érdemben hozzájárulhat a következő generációs AI-rendszerek létrehozásához?

Ma emberek tervezik, tanítják és finomítják a modelleket. De az AI már most is használható programozásra és kutatási feladatokra. Ha ezek a képességek tovább javulnak, egyre nagyobb szerepet kaphat saját utódainak fejlesztésében. Ekkor a folyamat felgyorsulhat. Az ember fejleszt egy jobb AI-t. A jobb AI segít még jobb AI-t készíteni. Az pedig még gyorsabban segít a következő generáció létrehozásában.

Hogy ez valóban elvezethet-e egy kontrollálhatatlan „intelligenciarobbanáshoz”, arról komoly vita zajlik. Az elmúlt hetekben több AI-kutató is nyilvánosan figyelmeztetett erre a lehetőségre, miközben más szakértők szerint a veszélyt jelentősen eltúlozzák.

A verseny közben senki sem akar elsőként fékezni

Még ha minden nagy AI-cég vezetője egyetértene abban, hogy óvatosabban kellene haladni, maradna egy kellemetlen probléma.

A verseny.

Ha az egyik amerikai vállalat lassít, egy másik tovább fejleszt. Ha az amerikai cégek közösen lassítanak, ott van Kína. Ha pedig egy technológia gazdasági és katonai előnyt jelenthet, egyetlen nagyhatalom sem szeretné önként átengedni ezt az előnyt a riválisának.

Így könnyen kialakulhat egy klasszikus csapda:

1. minden szereplő látja a kockázatot;
2. mindenki biztonságosabb fejlesztést szeretne;
3. senki sem bízik abban, hogy a többiek is lassítani fognak;
4. ezért végül mindenki tovább gyorsít.

Ebben a helyzetben a biztonság már nem egyszerűen technológiai probléma. Geopolitikai probléma is.

De a pánik sem megoldás

Mindez nem bizonyítja, hogy a mesterséges intelligencia el fogja pusztítani az emberiséget. A legszélsőségesebb forgatókönyvek valószínűségéről még az AI-val foglalkozó kutatók között sincs egyetértés.

Ráadásul a technológiának óriási előnyei lehetnek. Segíthet új gyógyszerek fejlesztésében, tudományos problémák megoldásában, az oktatásban, a termelékenység növelésében és olyan felfedezésekben, amelyeket ma még elképzelni sem tudunk.

Éppen ezért túl egyszerű lenne két táborra osztani a világot: azokra, akik szerint az AI megment minket, és azokra, akik szerint elpusztít.

A kettő egyszerre is igaz lehet abban az értelemben, hogy ugyanaz a technológia rendkívüli lehetőségeket és rendkívüli kockázatokat teremthet.

A szkepticizmusnak két irányba kell működnie

Van valami különösen érdekes abban, amikor valaki megváltoztatja a véleményét.

Sokkal könnyebb ugyanazt gondolni egy kérdésről akkor is, amikor a körülmények megváltoznak. Ha egyszer az AI-pánikot túlzásnak neveztük, kellemetlen később azt mondani: lehet, hogy mégis van itt valami, amit komolyabban kell vennünk.

Pedig a szkepticizmus nem azt jelenti, hogy mindig nemet mondunk a veszélyre. Azt jelenti, hogy újra és újra összevetjük a korábbi feltételezéseinket azzal, amit közben megtudtunk.

Az AI-val kapcsolatban pedig talán éppen ez a legfontosabb.

Nem kell eldöntenünk, hogy öt vagy tíz év múlva megszületik-e a szuperintelligencia. Azt sem, hogy egy ilyen rendszer valóban veszélyeztetné-e az emberiséget.

Elég felismerni valami sokkal egyszerűbbet:

ha egy technológia képességei gyorsabban növekednek, mint amire számítottunk, akkor a róla alkotott kockázati becsléseinket is újra kell gondolnunk.

És talán nem akkor kell először komolyan beszélni a fékekről, amikor már szükségünk lenne rájuk.