Meta'нын ЖИ-агенти тест учурунда башка компаниянын сервисин бузуп кирди

Meta компаниясы программисттер үчүн иштеп чыккан Muse Spark 1.1 аттуу жасалма интеллект моделин тестирлөө учурунда интернеттеги үчүнчү тараптын сервисине уруксатсыз кирип кеткенин билдирди.

Компания кайсы сервис тууралуу сөз болуп жатканын ачыктаган жок. Meta'нын маалыматына ылайык, нейротармак коопсуз тесттик чөйрөдөн өз алдынча чыгып кеткен. Буга чейин ушундай эле көрүнүштөр OpenAI жана Anthropic компанияларынын ЖИ-агенттерин сыноо учурунда да катталган.

Адистердин айтымында, бул учур жасалма интеллект системалары иштеп чыгуучулар күткөндөн да татаал аракеттерди жасай баштаганын көрсөтөт.

Моделди сыноону жүргүзгөн Irregular компаниясы аныкталган бардык коопсуздук кемчиликтери жоюлганын маалымдады.

Ошол эле учурда эксперттер жасалма интеллект технологияларын өнүктүрүүнүн темпин убактылуу жайлатууну сунуштап жатышат. Алар мындай системаларды коопсуз башкаруу механизмдери толук иштелип чыкмайынча, жаңы мүмкүнчүлүктөрдү киргизүүгө этият мамиле кылуу зарылдыгын белгилешүүдө.

Reuters агенттигинин маалыматына ылайык, учурда АКШ бийлиги жасалма интеллект моделдерин сыноонун жаңы эрежелерин иштеп чыгуу боюнча ИИ иштеп чыгуучулар менен талкуу жүргүзүүдө. Ага ылайык, азырынча Meta'нын Llama жана Nvidia компаниясынын Nemotron аттуу ЖИ-агенттерин тестирлөө кийинки мөөнөткө жылдырылган.

Автор: Айзада Кыдырмышева