Önemli Çıkarımlar:
Microsoft Üst Yöneticisi (CEO) Satya Nadella, şirketlerin yapay zeka ajanlarını resmi kimlikler, izin sistemleri ve denetim izleriyle insan çalışanlar gibi ele alması gerektiğini söyledi.
Otonom yapay zeka ajanlarını devreye sokmak için yarışan şirketler, onlara insan çalışanlar gibi davranmalı — resmi kimlikler, izin sistemleri ve denetim izleriyle — dedi Microsoft Üst Yöneticisi (CEO) Satya Nadella, sektör büyüyen bir yönetişim açığıyla karşı karşıya kalırken.
"Kuruluşlar, yönetebileceklerinden daha hızlı bir şekilde ajanları devreye alıyor," dedi Nadella bir röportajda. "Yeni bir çalışanın kimlik kartı, kısıtlı erişimi ve günlükleri izleyen bir yöneticisi olmadan çalışmasına izin vermezseniz, bir ajana da izin vermemelisiniz."
Microsoft bu hafta, çekirdek seviyesinde ajan sınırlarını zorunlu kılan işletim sistemi seviyesinde bir sanal alan olan Microsoft Execution Containers'ı (MXC) tanıttı. Sistem, her bir ajana Microsoft Entra tarafından desteklenen yerel veya bulut tarafından sağlanan bir kimlik atar, her eylemi bu kimliğe atfeder ve BT yöneticilerinin bir ajana tam olarak hangi dosyalara, dizinlere ve ağ kaynaklarına erişebileceğini bildirmesine olanak tanır. OpenAI, Nvidia, Manus ve Nous Research halihazırda platform üzerinde inşaata başladı, dedi Microsoft Build geliştirici konferansında.
Riskler yüksek. Gartner araştırma başkan yardımcısı Dennis Xu bu hafta, yüksek özerkliğe sahip yapay zeka ajanlarının güvenliğini sağlamanın "açık bir zorluk" olduğunu, jailbreak ve prompt injection saldırılarının tamamen önlenmesinin imkansız kaldığını söyledi. Güvenlik satıcısı Akeyless tarafından yapılan bir anket, kuruluşların %84'ünün yapay zeka ajanlarının hassas verilere erişebildiğini ve %67'sinin ajanların halihazırda erişmemeleri gereken verilere eriştiğine inandığını ortaya koydu.
Microsoft, Aracı Yapay Zeka Sistemlerindeki Hata Modları Taksonomisi'ni ayrıca güncelleyerek yedi yeni risk kategorisi ekledi. Bunlar arasında, ajan davranışının kötü amaçlı kod yerine doğal dilden etkilenebildiği Aracı Tedarik Zinciri Tehlikeye Atma; düşmanca talimatların meşru görevlerle uyumlu görünürken ajanın nihai hedefini yönlendirdiği Hedef Ele Geçirme; ve grafik arayüzler aracılığıyla çalışan ajanların düşmanca içerik tarafından manipüle edilebildiği Bilgisayar Kullanımı Ajanı Görsel Saldırısı yer alıyor. Şirket, güvenlik ekiplerine konuşlandırılan her ajan için bir yazılım malzeme listesi oluşturmalarını, ajan kimliğini kriptografik olarak doğrulamalarını ve yeni hata modlarını kırmızı takım kapsama matrislerine eklemelerini tavsiye etti.
Microsoft'un yaklaşımı, güven katmanını işletim sistemi seviyesine yerleştirerek Apple'ın bahçe duvarı modeli ve Google'ın bulut-öncelikli stratejisinden ayrışıyor. Şirket, kapsamayı Windows'un kendisine inşa ederek, bir geliştiricinin hangi ajanı, modeli veya çerçeveyi seçtiğine bakılmaksızın güvenlik garantilerinin geçerli olmasını sağlıyor. Temmuz ayında önizlemede sunulacak olan Microsoft Defender, Entra, Intune ve Purview ile Agent 365 entegrasyonu, BT yöneticilerinin merkezi olarak ajan kapsamasını yönetmesine olanak tanırken, geliştiriciler iş yüklerinin gerektirdiği izolasyon seviyesini seçiyor. Microsoft'un Windows ve Cihazlar İcra Başkan Yardımcısı Pavan Davuluri, MXC'nin tanıttığı ilkelerin — güvenlik, kapsama, izolasyon ve kullanıcı kontrolü — yapay zeka ajanlarını ticari olarak uygulanabilir kılmak için gerekli olduğunu söyledi.
Yatırımcılar için, yönetişim hamlesi net bir rekabet dinamiği yaratıyor. Microsoft, Windows'u kurumsal yapay zeka ajanı dağıtımı için güvenilir platform olarak konumlandırıyor ve potansiyel olarak Azure bulut ve güvenlik ürünlerinin benimsenmesini teşvik ediyor. Alphabet'in Google'ı ve Amazon.com da dahil olmak üzere rakipler, eşdeğer işletim sistemi seviyesinde kapsama geliştirme baskısıyla karşı karşıya. Microsoft hisseleri, kısmen yapay zeka iyimserliğiyle bu yıl %18 değer kazandı ve ileriye dönük 32 kat kazançtan işlem görüyor. Analistlere göre, gerçek sınav, işletmelerin bu yılın ilerleyen dönemlerinde üretim ağlarında ölçekte ajanlar konuşlandırmaya başlamasıyla gelecek.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımamaktadır.
