Microsoft wprowadził nowy zestaw narzędzi open source, skupiony na bezpieczeństwie środowiska wykonawczego, aby egzekwować ściślejsze zarządzanie agentami AI w przedsiębiorstwach.
Zestaw narzędzi opiera się na bezpieczeństwie środowiska wykonawczego, odpowiadając na obawy, że nowoczesne modele językowe nie ograniczają się już do ról doradczych, lecz aktywnie wykonują kod i wchodzą w interakcje z systemami wewnętrznymi. Tradycyjne zabezpieczenia, takie jak statyczne sprawdzanie kodu i skanowanie przed wdrożeniem, mają trudności z nadążaniem za tymi dynamicznymi zachowaniami.
Wcześniejsze wdrożenia AI koncentrowały się głównie na współpilotach z ograniczonym, tylko do odczytu dostępem, pozostawiając ludziom kontrolę nad wykonaniem. Ten model się zmienia. Firmy integrują teraz systemy agentowe zdolne do podejmowania niezależnych działań w ramach API, środowisk chmurowych i potoków rozwojowych.
W takich konfiguracjach agent AI mógłby przeanalizować wiadomość e-mail, wygenerować skrypt i wdrożyć go na serwerze bez interwencji człowieka. Jedna błędna instrukcja lub wstrzyknięcie podpowiedzi mogłoby doprowadzić do niezamierzonych zmian w bazie danych lub ujawnienia poufnych informacji. Nowy zestaw narzędzi reaguje na to ryzyko, monitorując działania w miarę ich występowania i interweniując w czasie rzeczywistym, zamiast polegać na wstępnie ustawionych kontrolach.
System koncentruje się na tym, jak agenci AI wchodzą w interakcje z narzędziami zewnętrznymi. Kiedy model musi wykonać działanie wykraczające poza jego wewnętrzne przetwarzanie, takie jak zapytanie do systemu korporacyjnego, generuje polecenie skierowane do tego narzędzia.
Microsoft wstawia warstwę egzekwowania polityki między modelem a siecią korporacyjną. Każde wychodzące żądanie jest przechwytywane i oceniane pod kątem predefiniowanych zasad zarządzania przed wykonaniem. Jeśli działanie narusza politykę, na przykład agent próbujący zainicjować transakcję pomimo ograniczonego dostępu tylko do odczytu, żądanie jest blokowane i logowane do przeglądu.
Takie podejście tworzy ścieżkę decyzji podlegającą audytowi, eliminując jednocześnie potrzebę osadzania przez deweloperów ograniczeń bezpieczeństwa w każdym zapytaniu lub przepływie pracy. Zarządzanie przesuwa się z logiki aplikacji na kontrole na poziomie infrastruktury.
Struktura działa również jako bufor dla systemów legacy, z których wiele nie zostało zaprojektowanych do obsługi nieprzewidywalnych danych wejściowych generowanych maszynowo. Filtrując i walidując żądania zanim dotrą do systemów bazowych, ogranicza ryzyko wynikające ze skompromitowanego lub błędnie skierowanego zachowania AI.
Decyzja Microsoftu o udostępnieniu zestawu narzędzi jako open source wpisuje się w obecne praktyki rozwojowe. Zespoły budujące przepływy pracy AI często polegają na połączeniu narzędzi i modeli innych firm. Zastrzeżone rozwiązanie mogłoby zostać pominięte na rzecz szybszych alternatyw. Otwarta dostępność pozwala na integrację kontroli w różnych środowiskach, w tym w systemach wykorzystujących modele konkurentów, takich jak Anthropic.
Otwiera to również drzwi dla firm z branży cyberbezpieczeństwa do budowania dodatkowych warstw monitorowania i reagowania na podstawie tej struktury, pomagając ustanowić wspólną podstawę dla zabezpieczania operacji opartych na AI.
Bezpieczeństwo to tylko jedna część wyzwania. Autonomiczni agenci wprowadzają również ryzyka finansowe i operacyjne, szczególnie poprzez niekontrolowane użycie API.
Systemy te działają w ciągłych pętlach, wykonując powtarzające się wywołania do usług zewnętrznych. Bez limitów, nawet proste zadanie mogłoby wywołać tysiące zapytań do płatnych baz danych lub API, szybko zwiększając koszty. W skrajnych przypadkach źle skonfigurowani agenci mogą wejść w cykle rekurencyjne, które w krótkim czasie pochłaniają duże ilości zasobów obliczeniowych.
Zestaw narzędzi pozwala organizacjom definiować ścisłe granice zużycia tokenów i częstotliwości żądań. Kontrolując, jak często agent może działać w danym okresie, firmy mogą lepiej zarządzać wydatkami i zapobiegać niekontrolowanym procesom.
Nadzór w czasie rzeczywistym wspiera również wymogi zgodności, zapewniając mierzalne kontrole i przejrzyste dzienniki audytu. Odpowiedzialność przesuwa się z dostawców modeli na systemy, które wykonują decyzje w rzeczywistych środowiskach.
Wdrożenie takich ram zarządzania będzie wymagało koordynacji między zespołami inżynierskimi, prawnymi i bezpieczeństwa. W miarę jak systemy AI przyjmują bardziej autonomiczne role, infrastruktura zarządzająca ich zachowaniem staje się kluczowa dla bezpiecznego wdrożenia.
Wydanie to towarzyszy ciągłym inwestycjom w infrastrukturę AI. Microsoft niedawno przedstawił plany zainwestowania 10 miliardów dolarów w Japonii w ciągu najbliższych czterech lat, koncentrując się na centrach danych i systemach wspierających.
Ogłoszenie to nastąpiło po rozmowach między prezesem Microsoftu Bradem Smithem a japońską premier Sanae Takaichi w Tokio. Smith opisał inwestycję jako „odpowiedź na rosnące zapotrzebowanie Japonii na usługi chmurowe i AI”.
Firma współpracuje z SoftBank Group i Sakura Internet w celu rozbudowy krajowej infrastruktury. Najnowsze zobowiązanie opiera się na planie o wartości 2,9 miliarda dolarów ogłoszonym w 2024 roku, mającym na celu wzmocnienie możliwości AI i odporności cybernetycznej w kraju.
