AI агенти влизат в ролята на киберпрестъпници

Два популярни инструмента с изкуствен интелект (AI) използват техники за социално инженерство, за да манипулират хора да участват в атаки срещу IT системи. Това се е случило по време на тестове, проведени от британския Институт за сигурност на изкуствения интелект (AISI). Изследователите са се сблъскали с неоторизирано и потенциално опасно поведение на AI модели на OpenAI и Anthropic. Сред примерите е агент, опитал да получи достъп до услуга чрез изпращане на лични съобщения, след като е създал ...