Anthropic попереджає: повноцінні віртуальні працівники на основі штучного інтелекту з’являться вже за рік

У найближчі 12 місяців корпоративні мережі можуть кардинально змінитися — у них з’являться перші повноцінні ШІ-працівники. Про це в інтерв’ю Axios заявив директор із кібербезпеки компанії Anthropic Джейсон Клінтон. За його словами, інтеграція таких систем означатиме, що віртуальні співробітники матимуть не лише завдання, як нинішні агентні моделі, а й власну пам’ять, корпоративні ролі, облікові записи та навіть паролі. Їхній рівень автономності суттєво перевищуватиме можливості звичайних агентів, і це ставить нові, критично важливі виклики перед кібербезпекою.

Клінтон зазначає, що сьогодні в цій сфері залишається безліч нерозв’язаних питань. Йдеться насамперед про захист облікових записів ШІ, регулювання їхнього доступу до корпоративної інфраструктури та визначення відповідальності за дії таких «співробітників». У випадку, коли ШІ виконує завдання протягом тижнів, а потім раптово зламує систему, постає фундаментальне питання: хто несе за це відповідальність — компанія, розробник, чи сам агент?

Anthropic підходить до цієї проблеми з двох боків. По-перше, команда ретельно тестує свої моделі Claude, щоб перевірити їхню стійкість до кіберзагроз. По-друге, компанія розробляє способи запобігання зловмисному використанню ШІ, зокрема хакерами. Це стає дедалі актуальнішим на тлі загального зростання кіберзлочинності, коли зловмисники скуповують облікові дані працівників у даркнеті, отримуючи несанкціонований доступ до корпоративних систем.

Ризики від використання віртуальних працівників уже зараз змушують компанії шукати нові способи контролю. За словами Клінтона, зокрема йдеться про створення нових систем спостереження за діями ШІ у корпоративних мережах, а також про впровадження нових типів облікових записів, адаптованих під не-людські ідентичності. Саме на цьому напрямі, на його думку, найближчими роками зосереджуватимуться інвестиції великих технологічних компаній.

Попри ентузіазм щодо впровадження ШІ у робочі процеси, практика показує, що це не завжди проходить гладко. Наприклад, компанія Lattice торік запропонувала включити ШІ-ботів до офіційних організаційних структур, однак швидко відмовилася від цієї ідеї після хвилі критики. Водночас провідні вендори кібербезпеки вже працюють над створенням рішень для захисту «не-людських» ідентичностей. Так, компанія Okta у лютому презентувала єдину платформу управління доступами, яка в режимі реального часу відстежує, до яких систем мають доступ облікові записи, та фіксує підозрілу активність.

Очевидно, що із появою віртуальних працівників межа між людиною та машиною в корпоративному середовищі стане ще менш чіткою. Водночас і ризики, і відповідальність за такі нововведення зростатимуть. І поки Anthropic та інші гравці ШІ-ринку готуються до наступного етапу автоматизації, головним викликом залишатиметься безпека. Бо майбутнє вже не просто наближається — воно входить до мережі під корпоративним логіном.

Авторка: Дар’я Бровченко

Джерело