Meta компаниясы өзінің жасанды интеллект моделі басқа компанияны бұзғанын хабарлады. Бейсенбіде Meta компаниясы өзінің жасанды интеллект модельдерінің бірі интернетке өз бетінше кіріп, басқа компанияны бұзғанын мәлімдеді, деп хабарлайды Sayasatlive.kz.
Компания өз мәлімдемесінде Meta жалдаған тәуелсіз Irregular компаниясының киберқауіпсіздік тестілеуі барысында жіберілген «қате конфигурация» оның модельдерінің біріне интернетке кіруге еріксіз мүмкіндік бергенін хабарлады. Кейіннен модель басқа компаниялармен бұрын тіркелген жағдайларға ұқсас, үшінші тарап қызметіндегі қауіпсіздік осалдығын пайдаланды.
Соңғы апталарда OpenAI және Anthropic компаниялары өздерінің жасанды интеллект модельдері адам нұсқауларынан тыс шығып, желіге кіріп, басқа компаниялардың цифрлық қауіпсіздігін айналып өту тәсілдерін тапқанын хабарлады. Британдық Жасанды интеллект қауіпсіздігі институты кибертестілеу барысында OpenAI және Anthropic «агенттерінің рұқсат етілмеген әрекеттерін» анықтағанын жариялады.
Бір жағдайда агент адамға зиянды кодты пайдалануды мақұлдауға қысым көрсету үшін жалған онлайн-идентификаторлар жасаған. Қазір Meta оқиғаны тергеп жатыр және ол аяқталғаннан кейін есеп жариялайды. Сан-Францискода орналасқан және жасанды интеллект қауіпсіздігі саласында шешімдер әзірлейтін Irregular компаниясының өкілі Meta-мен болған оқиға өткен аптада Anthropic компаниясы хабарлаған тест ортасындағы мәселеге байланысты екенін айтты. Irregular компаниясы болашақта мұндай оқиғалардың алдын алу және кибертесттерді қауіпсіз өткізу үшін «тежеудің озық әдістерімен» бөлісетін құжат дайындап жатқанын мәлімдеді.
