Anthropic tadqiqotchisi industriyani tark etdi: «O'z-o'zini yaxshilovchi superintellektga to'g'ridan poyga qilmoqda»
27 yoshli Jacob Coxon Anthropic'dan ketdi — «2027 oxiriga kelib narsalar nazoratdan chiqishi mumkin». Bir kunda Evan Hubinger 10% xavf bahosini ham aytdi. Nima bo'lyapti?
Seshanba kechqurun (AQSH vaqtida 08.09) AI sohasida kamdan-kam voqea ro’y berdi: frontier laboratoriyasining pretraining tadqiqotchisi ochiq xat bilan iste’fo chiqdi — va sababini ommaga aytdi.
Kim bu?
Jacob Coxon, 27, britaniyalik, matematik. So’nggi 3 yilda OpenAI va Anthropic’da pretraining research — ya’ni modellarning eng asosiy o’qitish bosqichi ustida ishlagan (GPT-4o system card mualliflaridan biri, 2024). Muhimi: u xavfsizlik jamoasidan emas, asosiy texnik jamoadan ketmoqda — uchrashuvlar orqali emas, kuchli modellarni o’zi qurmoqda edi.
WSJ (Amrith Ramkumar) xabariga ko’ra, Coxon o’z qarorini shunday izohladi:
- «So’nggi yilning eng tajovuzkorlari — 2027 oxiriga kelib narsalar nazoratdan chiqishi mumkin» («end of next year things could be out of control already»).
- Kompaniyalar bir-biri va Xitoy raqobatchilari bilan poygada xavfsizlikni qurbon qilmoqda.
- X da esa aniqroq: «Anthropic’dan bugun iste’fo chiqardim. So’nggi 3 yilni OpenAI va Anthropic’da pretraining research qildim. Ikki kompaniya ham mas’uliyatli harakat qilmayapti. Ular to’g’ridan-to’g’ri o’z-o’zini yaxshilovchi superintellektga poyga qilib, hayotimiz bilan qimor o’ynamoqda.»
U hamkasblari orasida vaziyatni ifodalash uchun «crunchtime» va «endgame» so’zlari ishlatilishini aytdi.
Kunning ikkinchi votumi: Hubinger
Ayni shu kunlarda Anthropic’ning Alignment Science rahbari Evan Hubinger o’z bahosini e’lon qildi: odamlarning yo’q bo’lib ketishi ehtimoli — 10% dan ko’p («>10% chance AI will end the human race»), recursive self-improvement tashvishi bilan. Bu shunchaki twit emas — kompaniyaning xavfsizlik bo’yicha yetakchisining o’z kompaniyasi qurayotgan narsasi haqida jamoatchilikka bergan raqami.
Bu yangi mi?
Yo’q. Anthropic o’zi bu yil «When AI builds itself» nomli hujjat e’lon qilgan edi (Marina Favaro va Jack Clark): recursive self-improvement — AI’ning o’z vorisini to’liq avtonom loyihalashi va qurishi chegarasiga yaqinlashmoqdamiz. Ular yozganicha: «Hali yetib kelmadik va bu muqarrar emas. Lekin aksariyat institutlar tayyor bo’lganidan tezroq kelishi mumkin».
Coxon’ning ketishi — bu suhbatning ichidan kelgan ovoz. Yil boshida Anthropic Safeguards Research rahbari Mrinank Sharma ham xavflar haqida ochiq xat bilan ketgan edi (Semafor, fevral 2026).
Nima uchun sizga tegishli?
Chunki bu — agentlar davri boshlanishining narxi to’g’risidagi suhbat. Biz Muse agent va DeepSeek distillyatsiya haqida yozganimizda ko’rgan qobiliyatlar — «o’z-o’zini yaxshilash» — hozir shu muhokamaning markazida. Coxon’ning so’zlari bilan aytganda: qobiliyat himoyadan tez o’sa, nazoratni keyin qaytarib bo’lmaydi.
Bir kun oldin Anthropic xuddi shu muammo bo’yicha £115M ajratgan Buyuk Britaniya hukumatining incident response dasturini maqtagan edi. Poyga hissi — bu AI suhbatining eng yuqori qatlami, va u endi ichkaridan ham ovoz chiqarmoqda.
Manbalar: WSJ 08.09.2026 (Amrith Ramkumar) + Coxon’ning X posti + Techmeme. Xavf bahosi: Evan Hubinger (X, 09.09). «When AI builds itself»: anthropic.com. Manbalarni o’zbek tiliga men tarjima qildim — ma’noni saqlagan holda.
Telegram kanalimda AI yangiliklarini har kuni o’zbek tilida yozaman.