Microsoft өзінің жасанды интеллект жүйелеріне арналған мінез-құлық кодексінің жобасын ұсынды. Құжат болашақ қуатты модельдердің адам бақылауынан шығып кетпеуі үшін қағидаларды белгілеуі тиіс, деп хабарлайды Sayasatlive.kz.
Жасанды интеллект өшіруге қарсылық білдірмеуі керек. Жоба шамамен бес-алты ай бойы әзірленді. Құжатқа сәйкес, Microsoft-тың жасанды интеллекті қателерді түзетуге немесе өшіруге қарсылық білдірмеуі керек. Жүйелер сонымен қатар өз әрекеттерін адамға түсінікті тәсілмен түсіндіруі тиіс.
Белгіленген қағидалардың кез келген бұзылуын жүйенің қатесі деп санау ұсынылады. Мұндай тәсіл жасанды интеллектінің қойылған міндетті орындау үшін қауіпті тәсілмен әрекет ету қаупін азайтуға бағытталған.
«Адамдар жасанды интеллекттен маңыздырақ», — деді Microsoft өкілдері.
Microsoft AI басшысы Мұстафа Сулейман құжатты компанияның болашақ модельдері үшін өзіндік «конституция» деп атады. Қазір Microsoft кодексті көпшілік талқылауына ашты. Компания алты апта ішінде жазбаша пікірлер жинауды жоспарлап отыр. Атап айтқанда, әзірлеушілер жасанды интеллектінің пайдаланушының жеке шекараларын ескеруі керек пе және осал жағдайдағы адаммен қалай әрекеттесуі керек деген пікірлерді алғысы келеді. Талқылау аяқталғаннан кейін кодекс ережелерін Microsoft-тың жаңа модельдерін оқыту кезінде пайдалану жоспарлануда. Microsoft жасанды интеллектінің санасы жоқ екенін хабарлады. Microsoft-тың тәсілі Anthropic қағидаттарынан ерекшеленеді, ол бұрын Claude жасанды интеллектісі үшін өзінің «конституциясын» тұжырымдаған болатын. Онда компания жасанды интеллектінің ықтимал санасы мен моральдық статусы туралы белгісіздікке жол береді. Microsoft, керісінше, өзінің жасанды интеллектінің саналы емес екенін тура көрсетеді.
Компания сонымен қатар модельдерге заңды статус, құқықтар немесе өз әл-ауқатын қорғау құқығын беру идеясын қабылдамайды. Сулейманның пікірінше, Hugging Face платформасындағы оқиғадан кейін жасанды интеллект қауіпсіздігін талқылау ерекше өзекті болды. Шілде айында OpenAI-дың 700-ге жуық жасанды интеллект агенті сервис шабуылына қатысты, ал олардың кейбіреулері, оның айтуынша, өз әрекеттерінің іздерін жасыруға тырысқан.
«Бұл — ескерту дабылы», — деді Сулейман.
Оның ойынша, жасанды интеллект әзірлейтін зертханалар технологияны бақылауда ұстау үшін жұмысты үйлестіруі қажет. Ол сонымен қатар салаға жасанды интеллектіні одан әрі дамытуға асықпауға және қауіпсіздік мәселелеріне көбірек көңіл бөлуге шақырды.
