Egy hack, amely újraindította a világvégeórát
A mesterséges intelligenciáról szóló vitákban időről időre megjelenik ugyanaz a jóslat: már csak hónapokra vagy néhány évre vagyunk attól, hogy olyan rendszereket hozzunk létre, amelyeket többé nem tudunk ellenőrizni.
Egy Hugging Face-et érintő biztonsági incidens új lendületet adott ezeknek a félelmeknek. Egyes szakértők szerint az eset azt mutatja, milyen gyorsan növekedhet a veszély, amikor az egyre erősebb AI-modellek hozzáférnek valódi digitális rendszerekhez.
A kérdés azonban nem egyszerűen az, hogy egy AI mennyire intelligens.
Hanem az, mire van ténylegesen lehetősége.
Intelligencia nem egyenlő hatalommal
Egy rendszer lehet kiváló programozásban, tervezésben vagy információfeldolgozásban anélkül, hogy önállóan képes lenne átvenni a világ infrastruktúrájának irányítását.
Ehhez sok más dologra is szüksége lenne:
- hozzáférésre valódi rendszerekhez;
- pénzügyi és számítási erőforrásokra;
- tartós működésre;
- fizikai infrastruktúrára;
- az emberi ellenőrzés kijátszására;
- és arra, hogy mindezt észrevétlenül tegye.
A feliratkozással az Általános szerződési feltételeket
és az Adatvédelmi nyilatkozatot elolvastam és elfogadom.
Ez már egészen más probléma, mint egy rendkívül jó chatbot létrehozása.
Háromféle veszélyt hajlamosak vagyunk összekeverni:
| Kockázat | Mit jelent? | Mennyire közvetlen? |
|---|---|---|
| AI-val végzett kibertámadás | Emberek AI-t használnak támadásokhoz | Már létező veszély |
| Hibás autonóm rendszer | Az AI rossz döntést hajt végre | Egyre fontosabb |
| Önálló AI-hatalomátvétel | A rendszer az ember ellen fordul | Erősen bizonytalan |
A három forgatókönyv nagyon nem ugyanaz.
Ha mindegyiket egyszerűen „AI-apokalipszisnek” nevezzük, éppen a kezelhető veszélyekre fordítunk kevesebb figyelmet.
Nem kell öntudatra ébredő szuperintelligencia ahhoz, hogy az AI komoly károkat okozzon.
A kevésbé látványos veszély fontosabb lehet
Lehetséges, hogy egyszer valóban létrejön az emberi képességeket messze meghaladó mesterséges intelligencia.
De addig sokkal hétköznapibb problémákkal kell megküzdenünk. Csalással. Kibertámadásokkal. Manipulációval. Hibás automatizált döntésekkel. Olyan rendszerekkel, amelyekre túl sok felelősséget bízunk.
Az AI legnagyobb rövid távú veszélye ezért talán nem az, hogy átveszi tőlünk a világot. Hanem az, hogy mi magunk túl gyorsan adjuk át neki.
A feliratkozással az Általános szerződési feltételeket
és az Adatvédelmi nyilatkozatot elolvastam és elfogadom.
0
