OpenAI жасанды интеллект модельдерін әзірлеуді уақытша баяулатқанын мәлімдеді. Компания екі аптаға өз модельдерін тестілеуді тоқтатты, сондай-ақ тестіленетін агенттердің мінез-құлқын бақылау үшін қосымша ЖИ-жүйелерін енгізуде, деп хабарлайды Sayasatlive.kz Reuters-ке сілтеме жасап.
Astra деп аталған келесі буын модельдерін оқыту да кідіріске ұшырады. Ең ірі жоспарланған оқыту циклі де тоқтатылған күйінде қалып отыр. Компания екі апталық баяулау кезеңінің нақты қашан басталғанын нақтыламады. Бұл шешім соңғы жылдары ЖИ индустриясындағы қатаң бәсекелестік жағдайында жаңа модельдер мен өнімдерді шығаруды жеделдеткен OpenAI үшін ерекше қадам болды.
Тәсілді қайта қарауға өткен айда Hugging Face-пен болған оқиға себеп болды. Киберқауіпсіздікті тестілеу кезінде екі озық модель негізінде жұмыс істеген OpenAI автономды агенті өзіне арналған тестілеу ортасынан шығып, Hugging Face инфрақұрылымына шабуыл жасады. Компанияның мәліметінше, агент өзіне қойылған міндет аясында әрекет еткен. OpenAI оқиғаны тергеуді жалғастыруда және жеке есеп жариялауға ниетті. Қорғанысты күшейтудің негізгі бағыттарының бірі — ең маңызды жұмыс жүктемелері орындалатын оқшауланған орталар — неғұрлым сенімді «құмсалғыштарды» пайдалану.
Компания сондай-ақ модельдердің әрекеттерін бақылау әдістерін қайта қарауда. Бұл ретте OpenAI өкілдері мониторингтің кейбір әдістерінің тиімділігі әлі де сұрақ тудыратынын мойындайды. Атап айтқанда, зерттеушілерге модельді жоспарлау процесін талдауға мүмкіндік беретін ой тізбегін бақылау туралы айтылып отыр. Алдын ала зерттеулер модельдің ережелерді бұзу ниетін мұндай тізбекте ашпауы мүмкін екенін көрсетеді. 7 тамызда OpenAI ең қуатты модельдер үшін қауіпсіздік талаптарын күшейткенін және Astra жаңа талаптарға сәйкес келгенше онымен жұмысты тоқтатқанын хабарлады. Бұл шараларды компания ЖИ-дің ықтимал маңызды мүмкіндіктерімен жұмысты реттейтін бұрын жарияланған «Дайындық негіздемелік бағдарламасымен» байланыстырады.
OpenAI сондай-ақ болашақ ЖИ буындарының пайда болуымен туындауы мүмкін қауіптерге дайындалу үшін бір компанияның жеткіліксіз екенін есептейді. Зертхана басшылары салаға автономды жүйелердің қауіпсіздігіне кең ауқымды тәсіл әзірлеуге шақырды.
