Fields medalisti AI xavfsizligi uchun institut ochdi: MAISI nima qiladi?

Bugun matematika olamida g’ayrioddiy yangilik bo’ldi: 2026-yil Fields medalisti Jacob Tsimerman (Toronto universiteti, sonlar nazariyasi) Mathematical AI Safety Institute (MAISI) — AI xavfsizligi uchun matematik institut tashkil etganini e’lon qildi. Bu sizga nega qiziq? Chunki dunyodagi eng yuqori darajadagi matematiklardan biri shunchaki kompaniyaga ishga o’tmay, mustaqil institut qurdi — va bu bugungi AI xavfsizlik muhokamasining yangi burilish nuqtasi bo’lishi mumkin.

Kim bu Tsimerman?

2026 Fields medali sovrindori (matematikaning «Nobeli», 4 yilda bir marta, 40 yoshgacha). Andr\u00e9-Oort gipotezasi bo’yicha ishlari uchun.
Iyulda OpenAI’ga xavfsizlik tadqiqotchisi sifatida o’tishini e’lon qilgan edi — «Messini proyekt menejeri qilib olgandek» deb yozgan edi bitta professor.
Endi esa mustaqil institut: MAISI OpenAI’ga bog’liq emas (NYT ta’kidlaganidek).

Maslahatchilar ro’yxati — o’zi ham xabar

Timothy Gowers — 1998 Fields medalisti, Coll\u00e8ge de France.
Ravi Vakil — Stanford, 2025’dan Amerika Matematika Jamiyati (AMS) prezidenti.
Geoffrey Irving — sobiq Britaniya AI Security Institute (AISI) bosh olimi, sobiq OpenAI/DeepMind alignment rahbari.
Paul Christiano — Alignment Research Center direktori, sobiq AQSH AI Safety Institute rahbari, OpenAI’da ilk alignment yetakchilaridan.
Yana Liokumovich (Toronto), Critch va boshqalar.

Diqqat: Irving aynan shu kunda Londonda parlamentda taqdim etilayotgan Artificial Superintelligence Security Bill kontekstida ko’p tilga olinadigan sobiq AISI bosh olimi. Ilm va siyosat bir nuqtada to’g’ri keldi.

MAISI nima qilmoqchi?

Institut o’zini «Princetondagi Institute for Advanced Study yoki Torontodagi Fields Institute kabi» tasvirlaydi. Asosiy g’oyalar:

Matematiklar AI xavfsizlikka kirsin. Bir-ikki semestrga «a’zo» bo’lib kelish, AI xavfsizlik mutaxassislari bilan muloqot.
Tezlik. Akademik matematikadan farqli ravishda — natijalar yillarlab pishitilib nashr qilinmay, «foydali bo’lishi mumkin bo’lgan eng erta shaklda» ommalashtiriladi.
Imkoniyat/imkonsizlik savollari. Eng qiziqarlisi: institut ochiq yozadi — «agar berilgan AI texnologiyasini hech qachon xavfsiz qilib bo’lmasa, ehtimol bu imkonsizlikning matematik isbotini topish mumkin». Matematika o’z muammosini yechilmasligini isbotlay oladigan yagona fanlardan biri.

Nega bu kerak? Tsimerman’ning iyuldagi so’zlari bilan: hozirgi AI xavfsizlik ko’p hollarda «modeldan yaxshi bo’lishini so’raymiz, tekshiramiz, yetarlicha yaxshi bo’lsa — bo’ldi deb hisoblaymiz». Matematik uchun bu — isbot emas, kuzatish. U modelning ichida nima bo’layotganini kafolatlar bilan tushunishni xohlaydi.

Kontekst: bu qanday trendning davomi?

So’nggi oyda matematik va AI xavfsizlik dunyolari tez yaqinlashyapti. Tsimerman’ning o’zi «omnicide events» (AI ishtirokidagi insoniyat yo’qolishi senariylari) haqida maqola yozgan.
OpenAI, Anthropic kabi kompaniyalar interpretatsiya uchun matematiklarni yollamoqda — lekin ular kompaniya ichida. MAISI’ning farqi: mustaqillik.
Bu — xuddi 1940-50-larda o’yin nazariyasi va kriptografiya uchun bo’lganday, matematikaning yangi amaliy fronti bo’lishi mumkin.

Nima uchun shubha bilan qarash kerak (halollik)

Institut hali birinchi kuni — natijalar yillarda keladi.
«AI xavfsizligini matematik isbotlash» — ehtimol, AGI ta’rifining o’zigacha aniq bo’lmagan narsani isbotlashga urinish. Imkonsizlik isbotlari go’zal, lekin ular model qurilishini to’xtatmaydi.
Maslahatchilar ro’yxati kuchli, lekin asosiy sarmoya hali e’lon qilinmagan.

Kuzatamiz: agar MAISI birinchi real natijalarini chiqarsa — bu AI xavfsizlik sohasining «risholik» davridan «fan» davriga o’tishining boshlanishi bo’ladi.

Manbalar: NYT (Siobhan Roberts, 08.09), maisi.org rasmiy sayt, Tsimerman’ning X posti (08.09), The Atlantic (31.07), New Scientist (03.08).