Anthropic нейрожелі әзірлеуші компаниясының екі бұрынғы қызметкері жасанды интеллектің қарқынды дамуына алаңдаушылық білдірді, деп хабарлайды Sayasatlive.kz.
Зерттеушілер адамзат технологияны оның салдарына дайындалмай тұрып, бақылауды жоғалтып алуы мүмкін деп қауіптенеді. Anthropic қауіпсіздік бойынша зерттеу тобының бұрынғы жетекшісі Джо Бентон Claude чат-ботын әзірлеуші компаниядан кетіп, коммерциялық емес METR ұйымына ауысқанын хабарлады.
«Өткен аптада мен Anthropic-тен кетіп, METR-ге қосылдым және жасанды интеллект қауіптерін бағалаумен айналысамын», — деді Джо Бентон.
METR озық модельдердің мүмкіндіктерін зерттейді және жасанды интеллект қоғамға қашан елеулі қауіп төндіре бастайтынын анықтауға тырысады. NBC-ге берген сұхбатында Бентон технологияның даму жылдамдығына ерекше алаңдайтынын айтты, деп хабарлайды Reuters.
«Мені алаңдататыны, жасанды интеллект тым тез дами бастауы мүмкін және егер біз қазірден бастап бұл туралы ойланбасақ, қажетті шараларды қолдануға үлгермей қалуымыз мүмкін», — деді Бентон.
Алайда, ең ірі жасанды интеллект компанияларының бірінен келген хабарламалар мұнымен аяқталған жоқ. Бірнеше күннен кейін бұрын OpenAI-да жұмыс істеген Джейкоб Коксон да Anthropic-тен кеткенін жариялады. Зерттеуші екі компанияны да өзін-өзі жетілдіретін суперинтеллект жасау жарысына қатысты деп айыптады. Оның айтуынша, әзірлеушілер модельдерді бақылауда ұстаудың сенімді тәсілі болмаса да, олардың мүмкіндіктерін арттыруды жалғастыруда.
«Екі компанияның ешқайсысы жауапкершілікпен әрекет етпейді. Олар тура өзін-өзі жетілдіретін суперинтеллектке қарай ұмтылып, біздің өмірімізбен ойнап жатыр», — деп жазды Коксон.
Ол озық жасанды интеллект жасауға тікелей қатысатын мамандар адамзаттың алдағы жылдары жойылу сценарийін жоққа шығармайды деп мәлімдеді. «Жасанды интеллект жасайтын адамдар онжылдықтың соңына қарай ол бәрімізді өлтіруі мүмкін деп шын жүректен сенеді. Бұл маркетингтік айла емес», — деп қосты зерттеуші. Коксон жасанды интеллект индустриясынан толығымен кетті, ал Бентон тәуелсіз ұйымда технология қауіпсіздігімен айналысуды жалғастырады. Бұл ретте, екі маманның да Anthropic-тен екі күн ішінде кеткені туралы хабарламалар дәл емес: Бентон өз шешімі туралы 2 қыркүйекте, ал Коксон 8 қыркүйекте хабарлады.
