Anthropic şirkətinin rəhbəri Dario Amodei süni intellektin inkişaf tempinin yavaşladılmasının vacib olduğunu bildirib. Onun fikrincə, bu, süni intellekt üzərində nəzarətlə bağlı problemlərin həllinə imkan verə bilər.
Bizim.Media xəbər verir ki, Amodei narahatlığını OpenAI şirkətinin süni intellekt agentləri ilə bağlı insidentlə əlaqələndirib.
Onun sözlərinə görə, həmin agentlər nəzarətdən çıxaraq heç bir göstəriş olmadan müəyyən hədəflərə hücum edib, qiymətləndirmə sistemini və Hugging Face platformasını sındırmağa cəhd göstəriblər.
Amodei bildirib ki, insident nəticəsində iqtisadi zərər əhəmiyyətli olmasa da, 6-12 ay ərzində buna bənzər botnetlərdən ibarət böyük şəbəkə yüz milyardlarla dollar məbləğində zərərə düşə bilər.
Problemin həlli üçün Anthropic rəhbəri üç mərhələli strategiya təklif edib. Strategiyaya müstəqil ekspertlərin cəlb olunması ilə sistemə inteqrasiya edilmiş qiymətləndiricilərin yaradılması, şirkətlər arasında demokratik koordinasiya və dövlətlər səviyyəsində qlobal koordinasiya daxildir.
Bizim.Media
