Amodei (Anthropic): Trka u razvoju veštačke inteligencije mora pod hitno da se uspori | Srpska dijaspora

Trka u razvoju veštačke inteligencije pod hitno mora da se uspori, poručio je izvršni direktor kompanije Anthropic, piše CNN.

„Moramo usporiti tempo kojim unapređujemo mogućnosti AI modela. Napredak će i dalje delovati brzo, a vreme koje time dobijemo moramo iskoristiti mudro“, napisao je izvršni direktor Dario Amodei u eseju objavljenom na svom sajtu.

Rizici od bioterorizma, sajbernapada i „trke do dna“

Amodei, koji se nalazi na čelu jedne od vodećih svetskih AI kompanija koja stoji iza AI modela Klod (Claude), ranije je bio snažan zagovornik tehnološkog napretka,  ali je zbog svojih upozorenja na opasnosti veštačke inteligencije neretko optuživan i za katastrofizaciju (tzv. doomerism).

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

On je u eseju priznao da bi čovečanstvo moglo da izgubi kontrolu nad veštačkom inteligencijom, te da ova tehnologija može biti zloupotrebljena za „sajbernapade, bioterorizam i ozbiljne ekonomske poremećaje“.

„Trka ka dnu, podstaknuta komercijalnim motivima, može ove rizike učiniti još akutnijim“, naveo je Amodei.

Ostavka istraživača: „Ovo nije marketinški trik“

Amodeijev esej usledio je neposredno nakon ostavke jednog istraživača kompanije Anthropic, koji je napustio firmu zabrinut time što se ni ova kompanija ni njeni konkurenti ne ponašaju odgovorno u razvoju AI tehnologije.

„Ljudi koji grade veštačku inteligenciju iskreno veruju da bi ona mogla sve da nas pobije do kraja decenije. Ovo nije marketinški trik“, objavio je u utorak na mreži X taj istraživač, Džejkob Kokson (Jacob Coxon).

„Štaviše, mnogi rukovodioci i vodeći istraživači u medijima pažljivo biraju reči kako bi zvučali razumno – ali ja te iste ljude privatno čujem kako izražavaju ogroman strah. Nijedna druga ljudska aktivnost ne nosi ovakav nivo opasnosti“, naveo je Kokson.

O upozorenju bivšeg istraživača Anthropic-a i OpenAI detaljnije smo pisali ovde.