Hinton, akit széles körben az MI egyik „keresztapjaként” ismernek, nemrég jelentette be, hogy egy évtizedes munkaviszony után kilépett a munkahelyéről,az Alphabettől, hogy szabadon beszélhessen a technológia kockázatairól.
Hinton munkáját alapvető fontosságúnak tartják a mai MI-rendszerek fejlődéséhez. 1986-ban társszerzője volt a „Learning representations by back-propagating errors” című alapvető jelentőségű tanulmánynak, amely mérföldkő volt az MI-technológia alapját képező neurális hálózatok fejlődésében. Kutatásai elismeréseként 2018-ban Turing-díjjal tüntették ki. Most azonban egyre több technológiai vezető közé tartozik, akik nyilvánosan aggodalmukat fejezik ki az MI által jelentett lehetséges fenyegetés miatt, ha a gépek az embernél nagyobb intelligenciát érnének el, és átvennék az uralmat a bolygó felett.
„Nem szeretném leértékelni az éghajlatváltozást. Nem szeretném azt mondani, hogy nem kell aggódni az éghajlatváltozás miatt. Ez is hatalmas kockázat, de úgy gondolom, hogy ez végül is sokkal sürgetőbb lehet” — mondta Hinton. Hozzátette: „Az éghajlatváltozással kapcsolatban nagyon könnyű azt javasolni, hogy mit kellene tennünk: egyszerűen hagyjuk abba a szénégetést. Ha ezt teszed, akkor végül minden rendben lesz. Az MI-vel kapcsolatban egyáltalán nem egyértelmű, hogy mit kellene tenned”.
A Microsoft novemberben elsütötte a technológiai fegyverkezési verseny rajtpisztolyát, amikor elérhetővé tette a nyilvánosság számára az OpenAI által fejlesztett ChatGPT nevű, MI-vel működő chatbotot. Hamarosan a történelem leggyorsabban növekvő alkalmazásává vált, két hónap alatt elérve a százmillió havi felhasználót. Idén áprilisban Elon Musk több ezer emberhez csatlakozva aláírta azt a nyílt kiáltványt, amelyben az OpenAI nemrég elindított ChatGPT-4-nél erősebb rendszerek fejlesztésének hat hónapos szüneteltetésére szólították fel az iparágat. Az aláírók között volt Emad Mostaque, a Stability AI vezérigazgatója, az Alphabet tulajdonában lévő DeepMind kutatói, valamint Yoshua Bengio és Stuart Russell, az MI úttörői.
Bár Hinton osztja az aláírók aggodalmát, hogy az MI egzisztenciális fenyegetést jelenthet az emberiségre, nem ért egyet a kutatás szüneteltetésével. „Ez teljesen irreális. Én abba a táborba tartozom, amely szerint ez egzisztenciális veszély, és elég közel van ahhoz, hogy már most nagyon keményen dolgozzunk, és rengeteg erőforrást fordítsunk arra, hogy kitaláljuk, mit tehetünk ez ellen. A technológiai vezetők értik a legjobban a dolgot, de a politikusokat is be kell vonni a megoldás keresésébe. Mindannyiunkat érint, ezért mindannyiunknak gondolkodnunk kell a megoldáson” — mondta Hinton.
Az Európai Unióban törvényhozók egy bizottsága reagált a Musk által támogatott levélre, és felszólította Joe Biden amerikai elnököt, hogy Ursula von der Leyen európai bizottsági elnökkel hívjon össze globális csúcstalálkozót a technológia jövőbeli irányáról. A múlt héten a bizottság a generatív MI-t célzó, mérföldkőnek számító javaslatcsomagot fogadott el, amely az OpenAI-hoz hasonló cégeket arra kényszerítené, hogy nyilvánosságra hozzanak minden olyan szerzői jogi anyagot, amelyet a modelljeik betanításához használnak.