p(doom) laboratoriyadan chiqib ketdi: 110 mln ko'rish, 22 siyosatchi, bir taqiq taklifi

Bir hafta oldin Jacob Coxon’ning Anthropic’dan ketishi haqida yozganimizda bu — industry ichki yangiligi edi. Bugun bu — Amerika siyosatining markaziy mavzusi. Uch kunda nima o’zgarganini sanab o’tamiz.

Nima bo’ldi

Coxon’ning «lablar hayotimiz bilan qimor o’ynamoqda» posti X’da 110 mln dan ortiq ko’rish yig’di. Anthropic Alignment Science rahbari Evan Hubinger uni ochiq qo’lladi: «biz haqiqatan ham AI barcha odamlarni o’ldirishi mumkin deb jiddiy ishonamiz» — o’z bahosi bilan: keyingi o’n yilda yo’q bo’lish ehtimoli 10% dan yuqori, va Anthropic’da superintellektni nazoratda ushlab qolish rejasi hali yo’q.

Keyin to’lqin keldi (Axios hisobi):

• 22 siyosatchi postga to’g’ridan-to’g’ri javob berdi: 2 gubernator, 7 senator, 13 vakil — hammasi qonunchilik chaqirvusi bilan.
• Bernie Sanders superintellektni taqiqlash bill’ini taklif qildi va keyingi hafta senatorlarni AI’ning «ekstremal xavflari» bo’yicha yopiq brifingga chorlamoqda.
• David Sacks: «Anthropic’ning IPO’si shu «whistleblower» da’volari tekshirilmaguncha to’xtatilishi kerak».
• Britaniya deputati Darren Jones multinatsional shartnoma talab qildi.

WIRED suhbatida Coxon asosiy taklifini aytdi: rekursiv o’z-o’zini yaxshilashni cheklovchi industry miqyosidagi xalqaro koordinatsiya. CNN eksklyuzivi: u equity’sidan (vesting’ga 2 oy qolganida) voz kechib ketgan — so’z pul bilan tasdiqlandi.

p(doom) nima va nega endi portladi

p(doom) — tadqiqotchilarning «AI insoniyatni yo’q qilish ehtimoli» uchun ichki bahosi. Bu yillar davomida eshitilgan, lekin uch kunda farq shundaki: endi u joylarda ishlaydigan odamlarning ovozli bayonotlari bilan birga kelmoqda — Paul Christiano ham shu hafta OpenAI Foundation board’ga qo’shilib: «mustahkam alignmentsiz superintellekt qursak, nazoratni butunlay yo’qotamiz — va ko’pchilik halok bo’lishi mumkin» dedi.

Raqamlar yangi emas — yangi emas, lekin endi omma eshityapti:

	Kim	Bahosi
Geoffrey Hinton (Nobel, «AI otasi»)	10–20%	yo’q bo’lish
Elon Musk	20% gacha
Dario Amodei (Anthropic CEO)	25% «juda yomon o’tadi»
Evan Hubinger (Anthropic)	>10% o’n yilda

Axios eng aniq taqqoslamani berdi: samolyot ishlab chiqaruvchining xavfsizlik direktori uchishdan oldin «keyingi avlod samolyetlarning 10% falokat bilan tugashi mumkin, va qanday xavfsiz qilishni bilmaymiz» desa — hech kim chiqmaydi. Laboratoriyada bu noaniqlik madaniyati; tashqarida — signal.

Qarshi to’lqin ham kuchi

Muhim: bu bir ovozli panika emas. Ikki keskin lager:

1. «Psyop» versiyasi — konservativ tanqidchilar (Beff Jezos, Parker Thayer) butun to’lqinni Demokratlar+EA harakatining moliyalashtirilgan PR operatsiyasi deb atamoqda: «AI’ni tartibga solish huquqini faqat o’zlariga olish uchun». Musk ham «Psy Op» deb masxara qildi.
2. «Reklama sifatida» tanqidi — Cal Newport: «milliardlab odamni o’ldirish bilan tahdid qilib, keyin ishingizni davom ettirish — bu OK emas». Chetan Sharma yo’nalishi: Anthropic IPO oldidan da’volari shundan iborat — «ishlarni yo’q qilamiz, kompaniyalarni yo’q qilamiz, endi odamlarni ham yo’q qilishimiz mumkin».

Anthropic ichida ham bo’linish ko’rinyapti: xodimlar shaxsiy capacity’da Coxon’ni himoya qilishdi, boshqalari «to’rt oy ishlagan odam» (Toly) deb piskit qilishdi. Kompaniyaning ijtimoiy media siyosati — ochiq savol.

Nega muhim

1. «Preference cascade» momenti. Odamlar yillar davomida bu baholarni bilishgan, lekin jim bo’lishgan. Bir kishi ochiq gapirgach, oqim sinishi boshlandi — endi jim turib olishning o’zi pozitsiya. Bu mexanizm har qanday industriyada takrorlanadi.

2. Regulyatsiya oynasi ochildi. Kaliforniya auditorlar reyestri va UK superintellekt bill’i alohida ko’rinyapti edi — endi ular bitta to’lqinning qismlari. Sanders brifingidan keyin federal darajada biror narsa kutilishi real.

3. IPO paradoksi. Anthropic $2 trln baholash oldida turibdi va aynan shu hafta uning xavfsizlik jamoasi «10% o’lim» deyapti. Bozor buni qanday narxlashi — boshqa hikoya. Sacks’ning IPO-pauza talabi birinchi qo’ng’iroq.

Halol chegara

Biz Coxon’ning xulosasini emas, mexanizmni yozamiz: 10% — bu isbot emas, katta noaniqlik belgisi. Aynan shu noaniqlikning o’zi ham ikki yo’lama o’qiladi: «to’xtatish kerak» va «bilmasligini tan olgan kompaniya boshqalardan yaxshiroq». Qaysi biri to’g’ri — vaqt ko’rsatadi. Shuningdek 110 mln ko’rish — bu hamfikrlik emas, qiziqish; Twitterdagi reaksiyalarning katta qismi skeptik.

O’zbekiston uchun 3 saboq

1. Ichki baholarni tashqariga chiqarish mexanizmi. Bizda ham har qanday jiddiy loyiha o’z «p(doom)»iga ega — reliz qilmasdan oldin «bu ishlamasa nima bo’ladi» raqamli bahosi. Yozilmagan xavf boshqarilmaydi.

2. Vesting’dan voz kechish — ishonch valyutasi. Coxon’ning posti 110 mln ko’rishga erishdi, chunki u pul bilan tasdiqlandi. Lokal kontekstda ham: tanqid qilayotgan odam manfaatdan voz kechsa, og’zagi quloqqa boradi.

3. «To’rt oy ishlagan» argumenti ham, uni ishlatish ham xavfli. Tajribasizlikka hujum qilish oson, lekin mazmun — lavozimda necha oy ishlaganida emas, aytilayotgan faktlarda. Bu savolni o’z jamoangizga ham berib turing.

---

Manbalar: Axios, WIRED, CNN (X), Cal Newport, Forbes