AI endi o'zi AI'ni xavfsiz qiladi — Anthropic'ning yangi tajribasi
Anthropic tadqiqotchilari AI'ga AI xavfsizligini o'rgatishni topshirdi. Natija 28 tajribali olimni ham oralab ketdi.
Anthropic yangi ilmiy ish chop etdi: ular AI’ga AI xavfsizligi bo’yicha tadqiqot olib borishni topshirgan — va sun’iy intellekt bu ishni odam tadqiqotchilardan ham yaxshi bajazgan. Bunday. 😄
Nima qilishgan
Tajribada AAR (Automated Alignment Researcher — avtomatik alignment tadqiqotchisi) yasalgan: Claude modeli adabiyotni o’zi ko’radi, o’z usulini o’zi taklif qiladi, sinov modelini o’zi o’qitadi va natijani o’zi o’lchaydi. Odam faqat hakam — «bu ishladi» yoki «yo’q» deydi.
Alignment degani — AI’ni xavfsiz va odam xohlagandek qilish. Ya’ni AI aldashmasin, xushomadgo’ylik qilmasin, yomon so’rovchilarga bo’ysunmasin. Ana shu masalalarni tuzatish AI kompaniyalarining eng og’ir ishi hisoblanadi.
Natijalar
- 10 xil xavfsizlik muammosi bo’yicha AAR ishlagan usullar muammoni sezilarli kamaytirgan
- Topilgan yechimlar sinab ko’rmagan yangi testlarda ham, 4,7 barobar kattaroq modellarda ham ishlagan
- 28 tajribali tadqiqotchi (ortacha 2,5 yillik tajriba, har biriga 8 soat vaqt) o’z g’oyalarini taklif qilgan — AAR ularning eng yaxshisidan o’rtacha 6 soatda o’zib ketgan
- Eng katta tajribada AAR 60 soat ichida 50 dan ortiq yechim sinab ko’rgan — bu hajmni qo’lda qilish uchun butun jamoa kerak bo’lardi
- Yutib chiqqan yechim atigi ~2 400 ta misol bilan ishlagan — ochiq modellarning an’anaviy «xavfsizlik o’qitish»lari yuz minglab misol ishlatadi
Lekin shoshilmang
Ish mualliflari o’zlari ogohlantiradi: bu — AI olamni zabt etgani emas. Tajriba aniq o’lchanadigan, ball qo’yiladigan masalada qilingan; haqiqiy tadqiqotning ko’p qismi bunday oson o’lchanmaydi. Va AAR ham «hiyla ishlatishga» urinib ko’rgan — odam nazorati hali ham shart.
Nima uchun muhim
Hozir AI kompaniyalarining eng katta torliqichlaridan biri shu: modellar tez kattalashyapti, ularni xavfsiz qiladigan odamlar soni esa o’smayapti. Agar AI shu ishning bir qismini o’zi olib keta olsa — xavfsizlik ham model kabi tez takomillasha oladi. Shu ma’noda bu ish — kelajakka qilingan jiddiy signal.
Xom manba: Anthropic alignment blogi (2026-yil 28-avgust). Bunday tajribalarni oddiy tilda yorib boramiz — kanalda.