Odborníci volají po pozastavení dalšího vývoje umělé inteligence. Co je k tomu vede?

Umělá inteligence poslední dobou zažívá obrovský boom. Všchini jsou z této technologie natolik nadšeni, že si ani neuvědomují rizika, které by mohly v budoucnu přijít. Odborníci na AI aktuálně bijí na poplach, a varují, že by se otázkou rizik měly společnosti začít zabývat dřív, než bude pozdě.

V nedávném otevřeném dopise nazvaném "Pause Giant AI Experiments: An Open Letter" vyzývají odborníci na umělou inteligenci (AI) společnosti působící v oboru k dočasnému zastavení vývoje generativních AI systémů. Tento dopis, který podepsalo více než 1000 osob včetně Elona Muska, Steva Wozniaka, Evana Sharpa, Craiga Peterse a Yoshuy Bengio, poukazuje na nejistotu ohledně možných dopadů výsledků těchto vývojů na budoucnost.

Odborníci v dopise navrhují šestiměsíční pauzu pro vytvoření regulačních zásad a postupů pro bezpečný pokrok v technologii AI. Pauza by se měla týkat pouze tréninku AI systémů výkonnějších než GPT-4, což je generativní AI model vyvinutý OpenAI. V případě neuposlechnutí výzvy odborníků, dopis navrhuje, aby vlády zavedly moratorium.

Společnosti, které investují do vývoje generativní AI a souvisejících technologií, zahrnují giganty jako Microsoft $MSFT , Alphabet $GOOGL , Alibaba $BABA  a Baidu $BIDU . Odborníci v dopise vyzývají k vytvoření bezpečnostních protokolů a jistoty pozitivního dopadu a zvládnutelnosti rizik. Výsledkem dopisu by mohlo být buď to, že společnosti zastaví a zformulují nové zásady, nebo se alespoň zamyslí nad možnými dopady a přijmou nezbytná opatření.

GPT-4 jako spouštěč potenciálních problémů

GPT-4, který byl nedávno představen, ohromil uživatele svými schopnostmi v konverzaci, skládání písní a shrnování dlouhých dokumentů. Reakce na tento model vedla konkurenty, jako je Alphabet Inc, k urychlení vývoje podobných velkých jazykových modelů. Odborníci v oblasti AI však vyzývají ke zpomalení vývoje, dokud lépe nepochopíme důsledky a možné škody na společnost.

Future of Life Institute, nezisková organizace financovaná především Muskovou nadací, londýnskou skupinou Founders Pledge a komunitní nadací Silicon Valley,  která vydala otevřený dopis, si myslí, že výkonné systémy umělé inteligence by měly být vyvinuty pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná. Organizace také vyzývá k regulačnímu orgánu, který by zajistil, že vývoj umělé inteligence slouží veřejnému zájmu.

Elon Musk, spoluzakladatel OpenAI a jeden z podepsaných odborníků v dopise, je známý svým upozorněním na potenciální rizika spojená s vývojem umělé inteligence. Podle něj je nezbytné zavést sdílené bezpečnostní protokoly, které by byly vyvinuty nezávislými odborníky, a vyzývá vývojáře, aby spolupracovali s tvůrci politik na správě věcí veřejných.

Výkonný ředitel OpenAI, Sam Altman, a generální ředitelé společností Alphabet a Microsoft, Sundar Pichai a Satya Nadella, nebyli mezi signatáři otevřeného dopisu. I přes to však dopis představuje důležitý krok k zahájení diskuse o budoucnosti umělé inteligence a potenciálních rizicích, které přináší.

Možné důsledky dopisu

Existuje několik možných důsledků, které mohou pramenit z dopisu. Jedním z nich je, že společnosti a výzkumné instituce, které se zabývají vývojem AI, by mohly dočasně zastavit své aktivity a přehodnotit své postupy. Tento scénář by umožnil odborníkům a regulátorům, aby se podívali na dosavadní vývoj a přijali nezbytná opatření k zajištění bezpečnosti a udržitelnosti v oblasti AI.

Alternativně by dopis mohl vést k většímu povědomí o možných rizicích spojených s vývojem AI a nutnosti zavést bezpečnostní protokoly a regulační postupy. Společnosti by se tak mohly více zaměřit na vytváření bezpečnějších a etičtějších AI systémů, které by měly pozitivní dopad na společnost.

Nakonec by dopis mohl inspirovat vlády a mezinárodní organizace, aby zvážily zavedení regulačních opatření a moratorií pro vývoj umělé inteligence. Tím by se zajistilo, že vývoj AI bude probíhat v souladu s nejlepšími zájmy společnosti a bude řízen tak, aby minimalizoval možné negativní dopady.

Bez ohledu na výsledek otevřeného dopisu je zřejmé, že diskuse o bezpečnosti a etice vývoje umělé inteligence je stále naléhavější. Jak AI systémy, jako je GPT-4, stále více pronikají do každodenního života, je třeba se zaměřit na to, jak tyto technologie mohou být použity pro dobro společnosti, aniž by přitom ohrožovaly soukromí, bezpečnost nebo zájmy jednotlivců.

Jedním z příkladů, který ukazuje, jak mohou být AI systémy využity pro veřejné dobro, je použití GPT-4 k řešení problémů v oblasti životního prostředí, zdraví nebo ekonomiky. Na druhou stranu je důležité brát v úvahu možná rizika, jako je zneužití technologie pro šíření dezinformací, manipulaci veřejného mínění nebo zvýšení nerovnosti v přístupu k technologiím.

Otevřený dopis "Pause Giant AI Experiments" představuje výzvu k zamyšlení nad tím, jakým způsobem se bude AI vývoj ubírat. Zda se podaří dosáhnout konsenzu mezi odborníky, společnostmi a vládami, zůstává otázkou. Nicméně je důležité, aby se vědci, průmysloví lídři a politici zaměřili na spolupráci a vyhledávali způsoby, jak zabezpečit a regulovat vývoj umělé inteligence, který bude v nejlepším zájmu lidstva.

UPOZORNĚNÍ: Nejsem finanční poradce, a tento materiál neslouží jako finanční nebo investiční doporučení. Obsah tohoto materiálu je čistě informativní.