"Ko'pchilik halok bo'lishi mumkin" degan odam OpenAI kengashiga kirdi

OpenAI o’z notijorat fondining kengashiga Paul Christiano’ni qo’shdi (09.09, rasmiy e’lon). U shu bilan birga Fond kengashi qoshidagi Safety and Security Committee (SSC) a’zosi bo’ladi — Zico Kolter raisligidagi shu qo’mita butun OpenAI, jumladan tijorat kompaniyasi (OpenAI Group PBC), xavfsizlik amaliyotlari ustidan nazorat huquqiga ega.

TechCrunch buni «OpenAI board’iga taniqli AI-doomer qo’shildi» deb yozdi. Voqeaning tubida esa boshqa savol bor: kompaniya o’z eng ashaddiy tanqidchilaridan birini ichkariga olib kirdi — bu kurashning yakunimi yoki boshlanishimi?

Kim bu odam

Christiano alignment sohasining eng birinchi tadqiqotchilaridan: OpenAI’da alignment bo’limini boshqargan (2021 gacha), keyin Alignment Research Center (ARC) asoschisi, so’nggi yillarda AQSH Savdo vazirligi (NIST) tarkibidagi CAISI’da katta texnik maslahatchi. Matematik Tsimerman’ning MAISI instituti e’lonida ham uning ismi maslahatchilar qatorida edi.

U shu haftaning o’zida, yangi lavozimi haqidagi bayonotida quyidagilarni yozdi (Business Insider iqtibosi):

«Agar biz mustahkamroq alignmentsiz superintellekt qursak, uni abadiy nazoratdan yo’qotamiz deb kutaman. Agar shunday bo’lsa, ko’pchilik odamlar halok bo’lishi mumkin.»

Va yana:

«Imkoniyatlarning so’nggi trayektoriyasi va alignment’ning davomli qiyinligiga qarab, endi AI imkoniyatlarining tez tezlashishi juda yaqin kelajakda katastrofik va qaytarilmas nazoratni yo’qotishga olib kelishi ehtimoli mazmunli deb hisoblayman. Men AI industriyani umuman — OpenAI ham shu jumladan — hozirda bu xavfni maqbul darajaga tushirish yo’lida deb hisoblamayman.»

E’tibor bering: odam kengashga kirgan kunining o’zida «ish beruvchim yo’lda emas» deyapti. Bu ommaviy bayonotda yozilgan.

Strukturaviy tomoni: qayerga kirdi

Oktyabr 2025 recapitalization’dan keyingi OpenAI tuzilmasida nazorat zanjiri shunday: OpenAI Foundation (notijorat) → OpenAI Group PBC (tijorat). SSC — Fond kengashi qo’mitasi, ya’ni nominal jihatdan kompaniyadan yuqorida turadi. E’londa buni aynan Kaliforniya va Delaware bosh prokurorlari o’tkazgan yillik tekshiruvlar kontekstida ta’kidlashgan — ya’ni «tashqi bosim ostidagi boshqaruv islohotining davomi» ramkasi.

Christiano’ning uchta lavozimi aniq chegaralangan:

OpenAI Foundation Board a’zosi — asosiy rol;
SSC a’zosi — Kolter bilan birga, butun OpenAI xavfsizlik siyosati ustidan;
OpenAI Group PBC Board’da ovoz bermas kuzatuvchi — tijorat kengashida to’liq a’zo EMAS.

Fond e’londa yana bitta muhim jihatni yozgan: CAISI’dagi lavozimi tufayli Christiano OpenAI’ga tegishli masalalarda o’zini chetlatadi (recusal). Demak u davlat tomonidan ham, fond tomonidan ham ikki tomonlama konflikt chegarasida ishlaydi.

«Men bu bilan roziman deb aytmayman»

Christiano’ning shaxsiy bayonoti eng qiziq qismi — u qo’shilishni heq qanday tasdiq sifatida ko’rsatmaydi:

«Qo’shilishim OpenAI xavfsizlik amaliyotining maxsus tasdig’i yoki tanqidi emas. Men barcha frontier kompaniyalar xavfsizlik nazoratini kuchaytirishini xohlayman va buni OpenAI’da qilishdan xursandman. Dunyoning qolgan qismi OpenAI’ni — va barcha AI ishlab chiquvchilarni — tashqaridan tekshiriladigan xatti-harakat va natijalar bo’yicha hukm qilishi kerak.»

Oxirgi jumla butun hikoyaning kalitidir: Christiano o’zi ham «ichkariga kirgan odamga ishonmang» degan tamoyilni o’zi e’lon qilyapti. Bu aynan shu hafta Anthropic’ning 4 insidenti tahlilida ko’rganimizga to’g’ri keladi: kompaniyaning o’z-o’zini baholashi — «simulyatsiya» bayonotlari ichki holat bilan mos kelmasligi mumkin. Christinao formulasi boshqa: tashqi tekshiriladigan natija.

Bir haftalik naqsh: nazorat devori qurilmoqda

Bu yangilik izolyatsiyada emas. Oxirgi 7 kunda nima bo’ldi:

Voqea	Kim tekshiradi
Anthropic 4 insident tahlili + METR mustaqil tergovi	METR (tashqi)
OpenAI agentlar 10+ saytda	6 mustaqil tadqiqotchilar guruhlari (tashqi)
Anthropic UK AISI’ni chetlab o’tdi	hech kim — shu muammo
Kaliforniya auditorlar reyestri	davlat (reyestr)
Hubinger/Coxon ketishi	ichki odamlar chiqib ketmoqda
Christiano kirishi	ichkariga ekspertiza kelmoqda

Ushbu jadvalda ikki qarama-qarshi oqim ko’rinadi: bir tomonda tashqi nazorat institutlari (METR, reyestr, UK AISI) kuchaymoqda; ikkinchi tomonda — ichki tanqidchilar chiqib (Coxon «sohasni tark etaman» dedi), ularning o’rniga yangilari ichkariga kirib kirmoqda. Christiano — ikkinchi oqimning eng yuqori nuqtasi: «AI halok qilishi mumkin» deb ochiq yozgan odam endi rasmiy nazorat qo’mitasida o’tiradi.

Nima o’zgaradi amalda

Ehtimol — darhol hech narsa. SSC o’tmishda ham tanqid qilingan: uning hisobotlari model release’lardan keyin chiqqan, a’zolari kompaniya bilan konsalting aloqalarida bo’lgan. Christiano bunday kengashga haqiqiy muxolif sifatida kiradi — lekin u bir ovoz: Kolter rais, qolgan a’zolar tarkibi o’zgarmadi.

Ko’rsatkich esa uning o’zi aytganidek bitta: tashqi tekshiriladigan natijalar. Agar kelgusi yil OpenAI insidentlarni mustaqil organlarga o’z xohishi bilan topshirsa — kirish ishladi. Agar Christiano 4 oydan keyin «equity vest qilmadi» deb chiqib ketsa — Coxon naqshining davomi (u ham to’rt oydan keyin ketgan, Axios intervyusida aynan shuni tushuntirgan). Coxon’ning sobiq hamkasbi Hubinger ham shu hafta xavotirini bildirgan.

O’zbekiston uchun 3 saboq

Nazorat kengashiga «tanqidchi» qo’yish — hamkorlik emas, sinov. OpenAI bunayam qilmagan ishni qilyapti: eng qattiq ogohlantiruvchini rasmiy qo’mitaga o’tkazish. Bizning kontekstda: har qanday davlat yoki kompaniya AI xavfsizligini kim nazorat qilishini institutional shaklda hal qilishi kerak — «bizda mas’ul odam bor» yetarli emas, u mustaqil va ovozli bo’lishi kerak.
«Ichkariga ishonch, tashqariga isbot» formulasi. Christinao’ning asosiy tezisi universal: ichki hisobotlar marketing emas, tasdiq manbai emas. O’zbek xizmatlari AI tizimlarini joriy qilganda (bank, davlat xizmatlari) ham xuddi shu tamoyil ishlaydi — tashqi auditor yoki mustaqil laboratoriyasiz o’z-o’zini baholash ishonch bermaydi.
Konflikt boshqaruvi namunasi. Christiano davlat organidagi lavozimi tufayli OpenAI masalalarida o’zini chetlatadi — «recusal» madaniyati. Bu kichik detallar institutsional xulq-atvorni belgilaydi: kim, qachon, qaysi masalalarda ovozdan chiqishi kerakligi yozilgan bo’lishi kerak.

Manbalar: OpenAI rasmiy e’loni (09.09), Axios, Bloomberg, Business Insider, Christiano’ning shaxsiy bayonoti.