Sam Altman, az OpenAI vezérigazgatója aggódik, hogy valami nagyon rosszat tett a novemberben bemutatott ChatGPT létrehozásával – számolt be a The Times of India egy panelbeszelgétesre hivatkozva.
A techóriás vezére az okozott károk és veszélyek miatt aludni sem tud.
Ami miatt a legjobban aggódom az, hogy a ChatGPT elindításával máris valami nagyon rosszat tettünk
– mondta Sam Altman, kiemelve, hogy azon aggódik csapatával: hagytak-e valamilyen hibát a szoftverben.
Arra a kérdésre, hogy a mesterséges intelligenciát az atomenergiához hasonlóan kellene-e szabályozni, Altman azt mondta, hogy jobb rendszerre van szükség a folyamat ellenőrzésére.
Elmondása szerint még annál is erősebb szabályozási rendszert kell létrehozni, mint amit az atomenergiához használnak.
Folyamatos biztonsági teszteket kell végeznünk a jövőben
– hangsúlyozta.
Vakációra küldik a mesterséges intelligenciát
Még májusban hat hónapos szünetet kértek a tech-cégek a mesterséges intelligencia alkalmazások fejlesztésére, azért, hogy kijavítsák a társadalomra és az emberiségre jelentett potenciális kockázatokat.
A levelet aláírta
- Elon Musk, a Twitter vezérigazgatója;
- Steve Wozniak, az Apple társalapítója;
- és Yoshua Bengio, a mesterséges intelligencia egyik úttörője is.
Erőteljes AI-rendszereket csak akkor szabad fejleszteni, ha biztosak vagyunk abban, hogy a hatásuk pozitív lesz és kockázataik is kezelhetőek lesznek
– áll a levélben.
Az elmúlt hónapokban a mesterséges intelligenciával foglalkozó laboratóriumok őrült versenyfutásba kezdtek az egyre erősebb digitális elmék kifejlesztése és bevetése érdekében, amelyeket senki sem tud megérteni, megjósolni vagy megbízhatóan irányítani.
Most felszólítottak minden AI-labort, hogy azonnal, legalább 6 hónapra szüneteltessék a GPT-4-nél erősebb rendszerek képzését.
Ha nem tartják be a vállalatok a kérést, akkor a kormányoknak közbe kell lépniük és moratóriumot kell bevezetniük – írja a Deutsche Welle.
Az állásfoglalás azt követően született, hogy az Egyesült Királyság és az EU megpróbálta kidolgozni, hogyan szabályozhatná a gyorsan fejlődő technológiát.
- A brit kormány szerdán kiadott egy dokumentumot, amely képet adott a megközelítéséről, ám azt mondják, hogy kerülni fogják a nehézkes szabályozásokat, amelyek elfojtanák az innovációt.
- Az uniós törvényhozók szintén tárgyaltak a mesterséges intelligenciára vonatkozó szabályok szükségességéről, mert attól tartanak, hogy a technológiát hamis információk terjesztésére vagy munkahelyek szükségtelenné tételére lehet majd használni.
Az ilyen jellegű nyilatkozatok célja, hogy felhajtást keltsenek. Csak az a cél, hogy az emberek aggódjanak.
– kritizálta a cselekvést Johanna Björklund, az Umea Egyetem mesterséges intelligencia kutatója.