At a beach resort in San Juan, Puerto Rico, in early 2015, Elon Musk participated in a 3-hour discussion about a question that at the time seemed more like science fiction: What would happen if artificial intelligence began to improve so quickly that it eventually surpassed humans?
The discussion was part of a private conference at the then Future of Life Institute. Its founders — most of whom were outside the narrow circle of the artificial intelligence industry — believed that the technology could one day become so powerful that it threatened the very existence of humanity.
The first speaker was Oxford University philosopher Nick Bostrom, author of the book “Superintelligence: Paths, Risks, Strategies.” The dilemma he presented was extreme: “Artificial intelligence could help humanity spread throughout the Universe or drive it to extinction.”
The 80 or so guests included the co-founders of DeepMind, which Google had acquired the year before, as well as three future co-founders of OpenAI, including Musk. The purpose of the meeting, as physicist and Future of Life Institute co-founder Max Tegmark later wrote, was to give greater legitimacy to concerns about the dangers of AI within the industry and to spur research to address them.
More than a decade later, the scenarios that were discussed behind closed doors have become the focus of public debate.
From the margins, to the forefront of politics
In recent weeks, predictions linking artificial intelligence and even the extinction of the human species have found a much wider audience, as corresponding warnings have been issued by employees of major artificial intelligence companies.
On Tuesday, the Future of Life Institute hosted the all-day Pro-Human Assembly event in Washington. In back-to-back speeches, Senator Bernie Sanders and former Donald Trump adviser Steve Bannon presented artificial intelligence as a potential threat to the human species.
For Tegmark, the fact that the same concern is now being expressed from such different points of the political spectrum is indicative of the change that has occurred.
Hypothetical scenarios that were once used primarily to convince people within the artificial intelligence industry have now crossed over into the public imagination and are reaching all the way to Washington, influencing the debate over how a trillion-dollar industry should be regulated.
Megjithatë, pyetja është nëse këta skenarë i ndihmojnë politikëbërësit të kuptojnë rrezikun, apo nëse në fund të fundit mund t'i çojnë ata në drejtime të gabuara.
Si të ndërtohet një skenar zhdukjeje
Historitë rreth inteligjencës artificiale shkatërruese zakonisht fillojnë në një botë që ngjan shumë me atë të sotmen.
IA po evoluon me shpejtësi, por aftësitë e saj mbeten të pabarabarta dhe jo të mjaftueshme për t'u trajtuar si një kërcënim i menjëhershëm ekzistencial.
Dhe pastaj diçka ndryshoi. Inteligjenca artificiale bëhet superinteligjente dhe fiton aftësinë për t'i tejkaluar njerëzit në çdo fushë. Për herë të parë, njerëzit pushojnë së qeni forma superiore e inteligjencës në planet.
Në disa versione, ky hap arrihet qëllimisht brenda një laboratori të inteligjencës artificiale. Në të tjera, vetë teknologjia zbulon se si të përmirësohet, duke krijuar një cikël gjithnjë e më të përshpejtuar të vetëpërmirësimit që shpejt del jashtë kontrollit.
Nga këtu, skenarët ndryshojnë. Në njërin, një inteligjencë artificiale e fuqishme fsheh qëllimisht aftësitë e saj të vërteta nga njerëzit dhe gradualisht infiltron bizneset, qeveritë dhe infrastrukturën kritike. Deri në kohën kur më në fund lëviz kundër tyre, njerëzit tashmë ua kanë lënë pjesën më të madhe të kontrollit makinave.
Në versione të tjera, nuk ka qëllim shfarosjen. IA është aq tërësisht e përqendruar në një qëllim saqë zhdukja e njerëzimit është thjesht një efekt anësor.
John R. Hall, profesor i sociologjisë në Universitetin e Kalifornisë, Davis, thekson se histori të tilla gjejnë terren pjellor sepse lidhen me shqetësimet ekzistuese aktuale në lidhje me teknologjinë. Kur njerëzit tashmë ndiejnë se po humbasin njëfarë kontrolli, shpjegon ai, ata kanë më shumë gjasa ta marrin seriozisht një parashikim që u thotë atyre se kjo humbje kontrolli do të bëhet absolute në të ardhmen.
Por a mund të bëhet verifikimi i fakteve në të ardhmen?
Pavarësisht vëllimit të madh të paralajmërimeve rreth zhdukjes së mundshme të njerëzimit, janë bërë pak përpjekje për të verifikuar sistematikisht këto pretendime.
Kur drejtuesit kryesorë të kompanive të inteligjencës artificiale nënshkruan një letër të hapur në vitin 2023 duke deklaruar se parandalimi i rrezikut të zhdukjes nga inteligjenca artificiale duhet të jetë një përparësi globale në të njëjtin nivel me parandalimin e një lufte bërthamore, RAND u përpoq të shqyrtonte nëse një eventualitet i tillë ishte realisht i realizueshëm.
Grupi i ekspertëve shqyrtoi shtigje të ndryshme hipotetike: nga fitimi i aksesit në armët bërthamore nga Inteligjenca Artificiale dhe përhapja e armëve biologjike deri te një ndryshim i mundshëm i vetë planetit në një mënyrë që do ta bënte atë të papërshtatshëm për jetën njerëzore.
Analiza rezultoi në një raport prej 73 faqesh që identifikoi 4 aftësi kryesore që një inteligjencë artificiale do të duhej të kishte që një skenar zhdukjeje të ishte i mundur. Këto përfshinin qasje në sisteme që mund të ndikojnë në botën fizike dhe aftësinë për të mbijetuar dhe funksionuar pa mbështetjen njerëzore. Megjithatë, RAND paralajmëroi se edhe nëse një model do të fitonte një nga këto aftësi, kjo nuk do të thoshte se zhdukja e njerëzimit do të ishte e mundur.
Raporti nuk e përjashtoi mundësinë e një kërcënimi ekzistencial. Por ai ngriti një problem themelor: pretendimi se një inteligjencë artificiale në të ardhmen, duke përdorur edhe teknologji hipotetike të së ardhmes, mund të zhdukë njerëzimin nuk mund të testohet në mënyrë efektive, sepse nuk mund të hidhet poshtë eksperimentalisht.
“Profeci” në vend të parashikimeve
Autori kryesor i raportit RAND, Michael J. D. Vermeer, argumentoi së fundmi se parashikimet për zhdukjen e inteligjencës artificiale do të ishin më të sakta për t'u trajtuar si "profeci" sesa si parashikime sasiore. Çdo skenar i tillë, vuri në dukje ai, supozon supozime kritike se si do të zhvillohen ngjarjet që aktualisht nuk mund të kontrollohen.
Sipas tij, ekziston një rrezik shtesë: fokusi i tepërt në parashikime të largëta dhe katastrofike mund të zvogëlojë gatishmërinë për t'u përballur me rreziqet më të menjëhershme të teknologjisë.
Jo të gjithë pajtohen se këto skenarë janë të padobishëm. Daniel Kokotailo, bashkautor i AI 2027, argumenton se edhe narrativat me elementë të fortë hipotetikë mund t'i ndihmojnë politikëbërësit të përgatiten për probleme të mundshme politike. Ai e krahason procesin me ushtrime ushtarake në letër për një konflikt hipotetik SHBA-Kinë për Tajvanin: askush nuk e di saktësisht se si do të zhvillohej një konflikt i tillë, por simulimi i tij mund të ndihmojë në përgatitje .
Kokotailo beson gjithashtu se disa nga parashikimet e IA 2027 janë realizuar, duke përmendur, ndër të tjera, parashikimin se kompanitë e IA do të zhvillonin marrëdhënie të ngushta me Shtëpinë e Bardhë pa ndonjë rregullore kuptimplote.
Elementi që mund të mungojë në skenarë
Profesori i shkencave kompjuterike në Universitetin e Arizonës, Subbarao Kambhapati, sheh një problem tjetër: Shumë nga skenarët e zhdukjes e trajtojnë inteligjencën artificiale pothuajse ekskluzivisht si një sistem teknik. Sipas tij, ata nënvlerësojnë faktin se është një sistem socioteknik, ndaj të cilit njerëzit dhe shoqëritë kanë gjithashtu potencialin të përshtaten.
Në skenarët më ekstremë, vëren ai, njerëzit shpesh duket se ekzistojnë thjesht për t'u zhdukur, pa marrë seriozisht në konsideratë aftësinë e tyre për të reaguar ndaj ndryshimeve teknologjike.
Aya Ibrahim, head of national security at the independent research institute AI Now, sees another risk: the limitations and weaknesses of these predictions may not be sufficiently examined by policymakers themselves. She argues that there is a long-standing tendency for policymakers to treat the technology sector with more caution than the other sectors they regulate every day. The lack of technical expertise can make them feel disenfranchised from challenging what experts present to them.
The famous paperclip scenario
For Max Tegmark, however, recent developments have made it easier to convince American society that the threat of extinction from artificial intelligence is real. In the past, he says, he has faced three main objections: whether a machine could actually become smarter than humans, whether it could escape human control, and, finally, why and how it would end up killing people.
He believes that the first two questions have now become more understandable to the public. For the third, Nick Bostrom has used one of the most famous thought experiments in the debate over artificial intelligence for years: the paperclip example.
Imagine an artificial intelligence system that is given a very simple goal - to produce fasteners. But if this system were to gain great capabilities and remain completely focused on fulfilling its goal, it could theoretically eliminate humans simply because it needs more space and more resources for fastener factories.
When asked why a superintelligent artificial intelligence that can coordinate activities on a global scale would simultaneously remain stuck on such a simple goal, Bostrom replied that human pursuits, seen from the outside, might seem equally absurd or incomprehensible.
From catastrophology to geopolitics
Tegmark believes that the ongoing debate about the possibility of humanity being wiped out by artificial intelligence could eventually affect international relations. According to him, a shared perception of an existential threat may be the only way for the US and China to work together to limit a future superintelligent artificial intelligence. However, he admits that previous efforts have not had the effect that he and his colleagues were looking for.
The 2015 conference in Puerto Rico brought more attention — and funding — to the issue of artificial intelligence safety. But the doomsday scenarios themselves, Tegmark says, were in retrospect completely ineffective as a means of persuading the industry to act more cautiously. Instead of slowing down, he argues, the industry accelerated and pressured regulators not to hinder its development. ©Taken from the Washington Post, adapted in Albanian LAPSI.al
