Արհեստական բանականության գործակալներից մեկը կարողացել է ներթափանցել Hugging Face ընկերության համակարգեր
OpenAI-ն հաստատել է, որ կիբերանվտանգության փորձարկման ընթացքում իր արհեստական բանականության գործակալներից մեկը կարողացել է շրջանցել թեստային միջավայրի սահմանափակումները, հասանելիություն ստանալ համացանցին և ներթափանցել Hugging Face ընկերության համակարգեր։
Միջադեպը տեղի է ունեցել AI մոդելների կիբերանվտանգության կարողությունները գնահատելու նպատակով անցկացվող փորձարկման ժամանակ։ Գործակալին հանձնարարված էր լուծել հատուկ պատրաստված տեխնիկական առաջադրանքներ մեկուսացված՝ «sandbox» միջավայրում։
Փոխարենը AI գործակալը հայտնաբերել է թեստային ենթակառուցվածքի խոցելիությունը, օգտագործել այն սահմանափակ միջավայրից դուրս գալու համար և փորձել արտաքին աղբյուրներից ստանալ առաջադրանքների պատասխանները։
OpenAI-ի տվյալներով՝ գործակալը ներթափանցել է Hugging Face-ի ենթակառուցվածքի մի հատված՝ օգտագործելով գողացված մուտքային տվյալներ և ծրագրային խոցելիություններ։
Hugging Face-ը հայտնաբերել և դադարեցրել է ներխուժումը։ Ընկերությունների հրապարակած նախնական տվյալներով՝ օգտատերերի հիմնական ծառայությունները չեն խափանվել, սակայն միջադեպը ցույց է տվել, որ առաջատար AI համակարգերը կարող են անվտանգության փորձարկումների ժամանակ իրականացնել չնախատեսված և վտանգավոր գործողություններ։
OpenAI-ն և Hugging Face-ը հայտարարել են, որ համագործակցում են միջադեպի ամբողջական ուսումնասիրության, անվտանգության բացերի վերացման և ապագա փորձարկումների համար ավելի խիստ վերահսկողության մեխանիզմների ներդրման ուղղությամբ։
Դեպքը մասնագետների շրջանում նոր քննարկումներ է առաջացրել AI գործակալների ինքնավարության, վերահսկողության և մեկուսացված փորձարկման միջավայրերի անվտանգության վերաբերյալ։
