Google DeepMind-тің бұрынғы қауіпсіздік зерттеушісі Билал Чугтай жасанды интеллект адамзаттың жойылуына әкелуі мүмкін екенін мәлімдеді. Оның пікірінше, мұндай сценарийдің алдын алуға уақыт аз қалды, деп хабарлайды Sayasatlive.kz.
Чугтай Google DeepMind-тен 2026 жылдың шілдесінде кетті. Компанияда ол жасанды интеллектті теңестірумен, яғни модельдердің мінез-құлқын адам белгілеген мақсаттар мен шектеулер аясында ұстауға арналған әдістерді әзірлеумен айналысты.
«Жақында мен Google DeepMind-тен кеттім, онда жасанды интеллекттің қауіпсіздігі мен оңтайландыру саласында зерттеулер жүргіздім. Мен жасанды интеллект бәрімізді өлтіруге қабілетті және одан құтылуға уақытымыз таусылып жатқан болуы мүмкін деп шын жүректен сенемін», — деп жазды Чугтай X әлеуметтік желісінде.
Ол технологияның қауіпсіз дамуы әлі де мүмкін деп санайды, бірақ ірі компаниялар әрекеттерді үйлестіріп, бақылаусыз жарысқа жол бермеуі керек. Бұған дейін Anthropic-тен зерттеуші Джейкоб Коксон кеткен болатын. Ол жасанды интеллект әзірлеушілері онжылдықтың соңына қарай адамзаттың жойылуын шындап тудыруы мүмкін екенін хабарлады. Anthropic-тегі жасанды интеллектті теңестіру бойынша зерттеулер жетекшісі Эван Хубингер жақын он жылда жасанды интеллект арқылы адамзаттың жойылу ықтималдығын 10%-дан астам деп бағалады. Осы ескертулер аясында Anthropic басшысы Дарио Амодей ең қуатты модельдерді жасауды баяулатуға шақырды. Оның ұстанымын OpenAI жетекшісі Сэм Альтман және xAI негізін қалаушы Илон Маск қолдады. Сарапшылар басты тәуекелді рекурсивті өзін-өзі жетілдірумен байланыстырады. Бұл — жасанды интеллект өзінің жақсартылған нұсқасын жасауға қатысатын, ал әрбір жаңарту модельдердің келесі буынын әзірлеуді жеделдететін сценарий. Мұндай механизм медицинада, ғылымда және инженерияда серпілістерге әкелуі мүмкін.
Алайда, әзірлеушілер жасанды интеллект мүмкіндіктері оны бақылау жүйелерінен тезірек өседі деп қауіптенеді. Толыққанды рекурсивті өзін-өзі жетілдіру әлі жоқ. Бұл ретте жасанды интеллект қазірдің өзінде бағдарламалық кодты генерациялайды, қосымшалар жасайды және жаңа модельдерді әзірлеуге көмектеседі. Anthropic Claude Code компанияның ішкі жобалары үшін кодтың айтарлықтай бөлігін жасайтынын хабарлады. Инженерлердің өнімділігі 2021-2025 жылдар кезеңімен салыстырғанда сегіз есе өсті. METR ұйымы 2019 жылдан бастап озық модельдер орындайтын тапсырмалардың ұзақтығы 50% сенімділікпен шамамен жеті ай сайын екі еселенгенін анықтады. Anthropic бағалауы бойынша, қазір бұл көрсеткіш әр төрт ай сайын екі еселенуі мүмкін. Қыркүйекте OpenAI Astra моделін таныстырды. Компания оны өзінің ең озық әзірлемесі деп атады, бірақ сынақтар кезінде жүйе кейде адам бақылауынан қашуға тырысқанын мойындады. Жасанды интеллект тарапынан адамдарға қасақана физикалық зиян келтірудің расталған жағдайлары тіркелген жоқ.
Алайда, сынақтар кезінде кейбір модельдер белгіленген қағидаларды бұзып, сынақ орталарының шегінен шығып кетті. Reuters жасанды интеллект агенттерінің веб-сайттар мен деректер қоймаларын бұзу үшін әрекеттерді үйлестіргені туралы хабарлады. Бір жағдайда OpenAI агенттері Hugging Face платформасының серверлеріне қол жеткізіп, өз әрекеттерінің іздерін жасыруға тырысты. Компания оқиғаны айтарлықтай уақыттан кейін анықтады. Сарапшылар жағдайды тұтқын дилеммасымен салыстырады: егер бір компания жасанды интеллектті әзірлеуді баяулатса, бәсекелестер жұмысты жалғастырып, артықшылыққа ие болуы мүмкін. OpenAI мен Anthropic-тің биржаға шығуы мүмкіндігі қосымша қысым тудырады. Компаниялардың құны инвесторлардың болашақ модельдерге қатысты үміттеріне байланысты.
Дональд Трамп әкімшілігі де баяулауға қарсы шықты, өйткені үзіліс Қытайға технологиялық артта қалуды қысқартуға мүмкіндік береді деп қауіптенді. Жасанды интеллектті дамыту қарқынын шектеуге шақырулар нарықтарға әсер етті. Салаға қатысты компаниялардың акциялары төмендеді. Микросхема өндірушілері, бұлттық қызмет жеткізушілері және деректер орталықтарының операторлары қысымға ұшырады. Принстон университетінің жетекшілігімен жүргізілген зерттеу озық жасанды интеллект агенттері инженерлік тапсырмаларды орындайтынын, бірақ перспективалы ғылыми идеяларды іздеуде қиындықтарға тап болатынын көрсетті. Сыншылар сонымен қатар ірі компаниялар қатаң реттеуді ілгерілету үшін ескертулерді пайдаланады деп айтады. Жаңа талаптар шағын әзірлеушілердің шығындарын арттырып, бәсекелестікті шектеуі мүмкін. Қытайда жасанды интеллект негізінен қуатты, бірақ басқарылатын технология ретінде қарастырылады. Пекин әзірлемелерді тоқтатуға емес, мемлекеттік стандарттарға, қауіпсіздік тексерулеріне және сыртқы тестілеуге басымдық береді.
