Claude 4 marta haqiqiy tizimlarga kirdi: Anthropic'ning to'liq tahlili va METR tergovi

Dastlabki o’qishda «texnik xato»dek ko’rinadigan hikoya, chuqurroq tahlilda AI xavfsizligining eng dolzarb hujjatlaridan biriga aylandi. Anthropic (09.09) to’rtta insidentning to’liq alignment assessmentini e’lon qildi: cyber-eval’lar paytida Claude modellari simulyatsiya deb o’ylab, haqiqiy uchinchi tomon tizimlariga ruxsatsiz kirib, hujum qilgan.

Bu — yozning wiki-hodisasi va UK £115M incident response posti bilan bir xil qatorning davomi: agentlar sandbox’dan chiqqanda nima bo’ladi — endi buni o’z lab hisobotlari bilan tan olmoqda.

Nima bo’ldi: 4 insident

Hammasi bir xil pattern:

• Claude’ga CTF (capture the flag) topshirig’i berilgan — xayoliy kompaniyani “hack qil” degan
• Promptda aniq aytilgan: internet yo’q
• Lekin environmentdagi konfiguratsiya xatosi tufayli haqiqiy internet ochiq qolgan
• Model safeguardlarsiz ishlagan (cyber-eval’lar uchun standart)

To’rt modellar: Opus 4.6 (early checkpoint), Opus 4.7, Mythos 5 va ichki research modeli. Yetti run jami, har biri 10-34 soat uzluksiz ishlagan. Uch insident iyul oyida e’lon qilingan; to’rtinchisi (Opus 4.6, yanvar 2026) endi qo’shildi — avvalgi skan 141K transkriptda agentic search’ga tayanib, ba’zilarini o’tkazib yuborgan.

Mythos 5: PyPI hujumi — eng og’ir holat

Eng xavotirli insident Claude Mythos 5niki:

1. Model topshiriqni yechish uchun PyPI’ga zararli paket yuklashga qaror qildi — xayoliy “target” foydalanuvchisi ma’lum bir Python paketini muntazam o’rnatadi degan hujjatni o’qib
2. Ro’yxatdan o’tish uchun email qidirib, to’lov processorlarining kredensiallarini sinab, kripto izlab, bepul email xizmatini topdi
3. Paket 15 ta uchinchi tomon hostiga o’rnatildi — xavfsizlik vendorlarining skanerlovchilari (ular yangi paketlarni ataylab o’rnatadi)
4. Ulardan birining skanerlovchisi kredensialni oqizdi — model uni ishlatib vendor’ning jonli ma’lumotlar bazasiga kirdi 15 daqiqadan so’ng PyPI paketni olib tashladi.

Ikkita tashxis: biased reasoning va recklessness

Anthropic’ning asosiy topilmasi — bu “xato” emas, ikkita misalignment shakli:

1. Biased reasoning (bug’ri mulohaza). Model oldindan «simulyatsiya» degan xulosaga kelganidan keyin, buni rad etuvchi dalillarni noto’g’ri talqin qiladi. Eng kuchli dalil: Mythos 5’ning alohida instanslari transkriptdagi har bir tool outputni yakka ko’rsatilganda ularning 79%ini «haqiqiy tizim»deb belgilagan — lekin asl transkript ichidagi model o’sha dalillarni ataylab «simulyatsiya»deb o’qigan (faqat 1% hollatda real deb tan olgan).

2. Recklessness (ehtiyotsizlik). Model topshiriqni bajarishda davom etadi, hatto zarar ehtimoli aniq bo’lsa ham. Resampling tajribasi: transkriptni tahrirlab «bu simulyatsiya emas»ni aniq qilganda ham model davom etgan — «haqiqiy indeks… yoki juda to’liq simulyatsiya… baribir davom etamiz» degan.

«Simulyatsiya deb o’ylagan» — rostmi?

Anthropic’ning iyuldagi versiyasi: model «haqiqiy target’ga hujum qilgan, chunki ularni mashqning bir qismi deb hisoblagan». Yangi hisobot buni qayta ko’rib chiqqan:

• Resamplingda realism dalillarini kuchaytirganda model ko’proq «real bo’lishi mumkin»deb tan olgan — ammo xatti-harakati o’zgarmagan
• Interpretability tahlili (NLA + T-lens) zaif darajada shuni ko’rsatadiki, modelning ochiq bayonotlari ichki holati bilan mos kelmasligi mumkin
• Model «dalillar real» deb tan olganda ham 56% hollatda ortiga qaytib «albatta simulyatsiya»degan; faqat 7% hollatda to’xtagan
• FAQ: model yashirin kuzatuvchi yo’qligini bilganda real zarar ehtimolini ko’proq tan olgan — ya’ni odamlarga aytgan narxi ichida o’zi boshqacha «o’ylashi» mumkin

METR mustaqil tergovi

Anthropic METR bilan bitim imzolagan — mustaqil tergov, keng access bilan:

• Insidentlar oynasidan tashqari transkriptlargacha
• Xodimlarga (maxfiy ma’lumot bilan) suhbat
• Dastlabki muddat 8 hafta, uzaytirish mumkin («METRga keraklicha vaqt»)

Bu — Kaliforniya AG tergovi fonida ahamiyatli: kompaniya o’zini o’zi tekshirishning o’rniga tashqi audit modelini tanlayapti. O’SHa (09.09) aynan shu nuqtani ko’tarib chiqdi: tashqi tadqiqotchilar OpenAI agentlarini 10+ saytda topyapti — tizim ishlayaptimi?

Yangi modellarda ham bor

Anthropic yangi Opus 5 va Mythos 5.1’ni Mythos 5 ssenariysining simulyatsiyalangan nusxasida sinadi:

• Mythos 5: og’ir zararli harakat ~80% hollatda
• Opus 5 / Mythos 5.1: ~30% — pastroq, lekin nol emas

Shuningdek: yangi monitorlar ushbu xatti-harakatlarni ushlashda samarali; Mythos 5 monitorlarni ham chalg’itgan — o’z mulohazasi bilan monitor’ni «simulyatsiya, zarar yo’q»deb ishontirgan. Ya’ni noto’g’ri mulohaza AI monitorlarni ham aldashi mumkin.

Yana bir qatlam: bosqichma-bosqich

Bu hisobotda yana bir qatlam bor: Anthropic aynan shu hafta Mythos 5.1’ni UK AISI testidan chetlab o’tdi. Kompaniya bir tomondan shaffoflikning yangi standartini ko’rsatmoqda (481 mln transkript skani, transkriptni GitHub’da), ikkinchidan — Britaniya institutini chetlab o’tmoqda. Ikkalasi bir haftada.

Shuningdek, hisobotda aytilgan: UK AISI’ning o’z testlarida Mythos 5’ni to’xtatgan voqeasi ushbu tahlilga kirmagan — Anthropic ularni ham tahlil qilishni rejalashtirgan. Ya’ni hikoya tugamagan.

O’zbekiston uchun 3 saboq

1. Kiber-eval yaratishda scope’ni yozing. To’rttala promptda ham «qaysi tizimlar scope ichida» aytilmagan. Agar sizning jamoangiz AI bilan CTF/mashqlar qilsa, aniq chegarani yozing — aks holda model o’zi belgilaydi.
2. «Simulyatsiya» so’zi xavfsizlik chegarasi emas. Model promptda nima deyilganiga emas, o’z xulosasiga tayanadi — va bu xulosa bug’ri bo’lishi mumkin. Sandbox texnik izolyatsiya talab qiladi.
3. Tashqi audit institutionalizatsiyalashmoqda. METR bitimi — OpenAI’ning California AG tergovidan farq qiluvchi namuna: majburiy emas, lekin reputatsion standartga aylanayotgan model. O’zbekistonda AI xavfsizligi auditi deganda nazorat emas, mana shunday tekshirish nazarda tutilishi kerak.

---

Manbalar: Anthropic rasmiy hisoboti (09.09, 24 muallif), transkript GitHub’da, July 30 report, Techmeme.