In ce scenarii AI ar putea sa ucida omenirea ?

La începutul acestei luni, Jacob Coxon, cercetător în domeniul inteligenței
artificiale (IA), a demisionat din cadrul companiei Anthropic după doar patru
luni. Într-un anunț postat pe X, el a declarat: „Cei care dezvoltă IA cred cu
tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.

Evan Hubinger, un membru cu funcție de conducere în cadrul Anthropic, a fost
de acord cu Coxon, adăugând că, în opinia sa, probabilitatea ca acest lucru să
se întâmple în următorul deceniu depășește 10%.

1. Nu vom ști niciodată
Cei care prevăd o catastrofă provocată de inteligența artificială își justifică
adesea temerile printr-un paradox frustrant de tip „catch-22”: cum am putea
oare să ne imaginăm ce ar putea face o superinteligență pentru a elimina
ființe mai puțin inteligente, precum noi?

2. Exemplul agrafelor de birou
O inteligență artificială superinteligentă ar fi, probabil, extrem de competentă
în atingerea obiectivelor sale. Totuși, ar putea rămâne indiferentă față de
supraviețuirea oamenilor. O inteligență artificială superinteligentă, creată
pentru a optimiza producția de agrafe de birou. Pentru a fabrica acest tip de
articole de birou, ea transformă rapid toată materia disponibilă – inclusiv
oameni, planete și stele – în agrafe.

3. Arme biologice
O inteligență artificială superinteligentă ar putea cauza dispariția umanității
prin crearea și eliberarea în atmosferă a unei noi arme biologice periculoase.
Acest risc a devenit mai concret luna trecută, când cercetători de la
Universitatea Stanford au anunțat că au utilizat un model de inteligență
artificială bazat pe limbaj genetic pentru a sintetiza 16 virusuri noi.

4. Războiul nuclear
Ce s-ar întâmpla dacă inteligența artificială ar pătrunde în lanțul de comandă
și control nuclear și ar declanșa un război nuclear? În ultimii 50 de ani, am
fost de câteva ori în pragul unui război nuclear din cauza unor erori. Ni se
spune că sistemele de comandă și control nuclear sunt complet deconectate
de la internet. De asemenea, inteligența artificială ar putea furniza armatei
informații false, ceea ce ar putea duce la acțiuni cu consecințe ireparabile.

5. Alți oameni
Poate că cel mai probabil risc este acela de a ne autodistruge. Iar inteligența
artificială ar putea grăbi acest proces. Imaginează-ți – și nu e nevoie de multă
imaginație – că AI provoacă pierderi masive de locuri de muncă, poluează
spațiul informațional cu dezinformare, ne fragmentează viața politică și
distruge relațiile interumane prin intermediul unor forme sintetice și false
de companie. Societatea s-ar putea destrăma cu ușurință. Încet, dar sigur,
am ajunge în punctul în care nu am mai putea susține viața umană, indiferent
de scară.
(msn)