Üretken Yapay Zekanın Dört Atlısı (ve Bir Kabustan Nasıl Kaçınılır)

Baş Bilgi Güvenliği Görevlisi olmak birçok sorumluluğu beraberinde getirir. Günlük olarak kullanıcılarımızı, ürettiğimiz ürünü, şirketi ve işimizin merkezinde yer alan verileri korumaktan sorumluyum; aynı zamanda tehditleri tespit etmek için 24 saat çalışan birinci sınıf bir sistem oluşturuyorum. ve herhangi bir zarar vermeden önce onları yok edin. Bu işi yapabilmeyi seviyorum. Bu rolde üstlendiğimiz bir grup temel tehdit ve risk vardır, ancak işleri heyecanlandıran şey de budur: kötü aktörleri zekice alt etmek ve kullanıcılarımızı korumanın daha iyi yollarını bulmak. Korkutucu mu? Olabilir ama asla bir kabus olmamalı.

Geçenlerde biri bana geceleri beni neyin uyanık tuttuğunu sordu (diğer bir deyişle kabuslarımın nelerden oluştuğunu) ve bu, içinde bulunduğumuz dijital çağda gerçek ve algılanan tehditlerin neler olduğunu düşünmemi sağladı. Grammarly'deki ekibimin dikkatli planlaması ve sıkı çalışması sonucunda beni uyanık tutan şeylerin listesi çok ama çok kısa. Ancak oyunun kurallarını değiştiren şey, ki bunu hepimiz biliyoruz, üretken yapay zekadır.

Üretken yapay zeka ve bilinmeyenin korkusu

Üretken yapay zeka her yerdeymiş gibi hissettiriyor çünkü aslında her yerde. Bir yıldan kısa bir süre önce GPT, en yakın karşılaştırması olan Instagram'a kıyasla çok daha kısa bir sürede (kesin olarak 1/15'i) bir milyon kullanıcıya ulaştı.

Harika, yani her yerde. Şimdi ne olacak? Dünyanın dört bir yanındaki BT liderleri artık savunmaya hazırlanmamız gereken tamamen yeni, gerçekten korkutucu olasılıklarla karşı karşıya. Bu tehdit vektörü farklı.

Nasıl SOC2 uyumlu hale geldiğimizle ilgili en ince ayrıntıları bile bilmiyor olabilirsiniz, ancak üretken yapay zekanın tehlikelerinin ve verileriniz üzerinde eğitim almanın yarattığı tehditlerin farkında olduğunuza bahse girerim. Sağ? Sağ. Üretken yapay zeka yalnızca kullandığımız ürünlerde değil, aynı zamanda haber döngümüzde de yer alıyor ve teknolojiyi kullanan bir dünyayla uzaktan ilgilenen herkesin aklına geliyor. Ama bu korkutucu olmamalı; en azından size korkmanız söylendiği şekilde.

O kadar da korkutucu değil: Üretken yapay zekanın abartılı tehditleri

Üretken yapay zekanın tehditlerine ilişkin endişelerin arttığını görüyoruz; bunlardan bazıları inandırıcı, ancak birçoğunun bugün abartıldığına inanıyorum. Eğer gerçek tehditleri Dört Atlı olarak adlandıracaksam, bu üçüne üretken yapay zekanın Üç Ahbap Çavuşları diyelim: veri sızıntısı, fikri mülkiyetin açığa çıkması ve yetkisiz eğitim. Katılmadan önce, neden bu üç noktanın sizi bugün karşı karşıya olduğumuz gerçek zorluklardan uzaklaştırdığını düşündüğümü açıklamama izin verin:

• Veri sızıntısı: Üçüncü tarafın gizli verileriniz üzerinde eğitim almasına izin verilmeden, veri sızıntısı saldırıları, iyi bilinen büyük dil modellerine (LLM) karşı teorik olarak kalır ve pratik saldırıların geniş ölçekli bir gösterimi yoktur.
• IP'ye maruz kalma: Herhangi bir eğitim haricinde, IP'ye maruz kalma riski, çevrimiçi e-tablolar gibi üretken olmayan yapay zeka destekli SaaS uygulamalarıyla benzer olmaya devam ediyor
• Yetkisiz eğitim: Kullanıcıların, verilerinin üretken yapay zekayı eğitmek için kullanılmasını devre dışı bırakmasına izin vermek bir endüstri standardı haline geliyor; bu da yalnızca aylar önce yaygın olan hassas veri eğitimi endişelerini azaltıyor

Üretken yapay zekanın Dört Atlısı

Kuruluşunuzun içinde yaşadığımız yeni gerçeklikle başa çıkmaya hazır olduğundan emin olmak için gerçekte neye odaklanmalısınız? Seni uyarıyorum; işinaslındakorkutucu olduğu yer burası.

Grammarly, 14 yılı aşkın bir süredir lider yapay zeka yazma yardımı şirketidir ve son birkaç yıldır yaptığım çalışma, şirketimizin güvenilir tehditlere karşı hayaletlere karşı dayanıklı olmasına yardımcı olmaktı. Ben bu kabus düzeyindeki tehditlere Üretken Yapay Zekanın Dört Atlısı adını veriyorum: Güvenlik Açıkları, Üçüncü Taraf Riski, Gizlilik ve Telif Hakkı ve Çıktı Kalitesi.

Güvenlik açıkları

Pek çok insanın üretken yapay zeka kervanına katılması ve farklı modeller ortaya koymasıyla, kendimizi öngörülebilir olanlardan, gözden kaçırılması korkutucu derecede kolay olanlara kadar yeni güvenlik açıklarıyla karşı karşıya buluyoruz.

Yüksek Lisans'lar, ortaya çıkan bir dizi güvenlik açıklarına karşı hassastır (kapsamlı bir liste için OWASP LLM İlk 10'a göz atın ) ve her çevrenin güçlendirilmiş kalmasını sağlamamız gerekiyor. Güvenilir bir Yüksek Lisans sağlayıcısı, Yapay Zeka kırmızı ekibi oluşturma ve üçüncü taraf denetimleri gibi birinci ve üçüncü taraf güvence çabalarının LLM güvenlik açıklarını azaltmak için tekliflerine ne gibi katkılar sağladığını açıklamalıdır. Durum tespiti yapın. Kilitleri açık bırakırsanız güvenli bir çevre hiçbir şey ifade etmez.

Gizlilik ve telif hakkı

Üretken yapay zekanın etrafındaki yasal ve gizlilik ortamı gelişirken, sağlayıcınıza veya kendinize karşı düzenleyici işlemlere karşı ne kadar güvendesiniz? AB'de yalnızca eğitim veri setlerinin kaynağına dayanan oldukça güçlü tepkiler gördük. Kendinizi, siz ve hukuk ekibiniz için bir kabusa uyanırken bulmayın.

Üretken yapay zeka araçları verilerdeki kalıplara dayanır, ancak bu kalıp kaldırılıp başka birinin çalışmalarından size aktarıldığında ne olur? Birisi sizi intihalle suçlarsa kullanıcı olarak korunuyor musunuz? Doğru korkuluklar yerinde olmadığında bu durum rahatsız edici bir baş ağrısından korkunç gerçekliğe dönüşebilir. Sağlayıcının telif hakkı taahhütlerini inceleyerek kendinizi ve müşterilerinizi en başından koruyun.

LLM üçüncü taraf sağlayıcı riskleri

Üçüncü taraf LLM'lerin çoğu yenidir ve gizli verilere bir miktar erişime sahip olacaktır. Ve herkes bu teknolojilere entegre olsa da hepsi olgun değil. Halihazırda risk profilimizin bir parçası olan bulut sağlayıcıları gibi büyük oyuncular, riski daha küçük SaaS şirketlerinin yapamayacağı (veya isteyemeyeceği) şekilde azaltmamıza yardımcı olabilir. Eğer sana bir tavsiyede bulunacak olsaydım, partiye kimi davet ettiğine dikkat etmeni söylerdim. Müşterinize karşı sorumluluğunuz, onlar ürününüzü kullanmadan çok önce başlar.

Çıktı kalitesi

Üretken yapay zeka araçları son derece duyarlı, kendinden emin ve akıcıdır ancak aynı zamanda hatalı olabilir ve kullanıcılarını yanıltabilir (örneğin halüsinasyon). Sağlayıcınızın oluşturulan içeriğin doğruluğunu nasıl sağladığını anladığınızdan emin olun.

Daha kötü olan ne? Üretken yapay zeka araçları, belirli gruplara zararlı kelimeler veya ifadeler gibi hedef kitleniz için uygun olmayabilecek içerikler oluşturabilir. Grammarly'de bu, ürünümüzün sahip olabileceği en kötü sonuçtur ve biz buna dikkat etmek ve ona karşı korunmak için çok çalışıyoruz.

Sağlayıcınızın hassas içeriği işaretlemek için hangi güvenlik önlemlerine ve yeteneklere sahip olduğunu bildiğinizden emin olun. Sağlayıcınızdan, hedef kitleniz için uygun olmayan içeriği filtrelemenize olanak tanıyan bir içerik denetleme API'si isteyin. Hedef kitlenizin güveni buna bağlıdır.

Bundan kaçmayın: Üretken yapay zekaya doğru güvenle ilerleyin

Mümkün olan en iyi şirket içi güvenlik ekibini oluşturun

Bulut bilişimi benimsediğimiz son 10 yılda oluşturduğumuz bulut güvenlik ekiplerine benzer şekilde, şirket içi harika bir yapay zeka güvenlik ekibine yatırım yapın. Dahili uzmanlık, bu gerçek tehditlerin her birinin işletmeniz/ürününüz/tüketicinizle nasıl ilişkili olabileceğini ve kendinizi doğru şekilde korumak için hangi araçlara ihtiyaç duyacağınızı özetlemenize yardımcı olacaktır.

Uzman ekibinizi eğitin. Daha sonra onları kırmızı takıma eğitin. Yapay zeka modeline dayalı saldırıları (örneğin, jailbreak, kiracılar arası kaçış ve hassas verilerin ifşa edilmesi vb.) ve yüksek etkili senaryoların masa üstü alıştırmalarını gerçekleştirmelerini sağlayın, böylece gizlenen tehditlerle nasıl başa çıkacağınızı bilirsiniz.

Çalışanlarınızı güçlendirin (ve silahlandırın)

Üretken yapay zekayı kuruluşunuza getirirken, çalışanlarınızı belirtilen güvenlik tehditlerine karşı ikinci savunma hattınız olarak düşünün. Üretken yapay zeka güvenlik eğitimi ve kabul edilebilir bir kullanım politikası konusunda net rehberlik sağlayarak şirketinizin korunmasına yardımcı olmalarını sağlayın.

Araştırmalar çalışanların yüzde 68'inin üretken yapay zeka kullanımını işverenlerinden gizlediğini itiraf ettiğini gösteriyor. Aksini iddia etmek, üretken yapay zekanın Dört Atlısını yok etmeyecektir. Bunun yerine, Atlıların şirketinizi atlatmasını sağlayacak asfalt bir yol inşa etmenizi öneririm.

Grammarly'de bu yolu nasıl inşa ettiğimizi öğrenmek için lütfen bu yılki Gartner BT Sempozyumu/XPo'daki oturumuma göz atın.Konuşmamda, güvenli, üretken yapay zekanın benimsenmesine yönelik ayrıntılı bir çerçeveyi ele alacağım.Bu konuyla ilgili teknik incelememiz 19 Ekim'de yayınlanacak.

Grammarly'nin sorumlu yapay zeka konusundaki kararlılığı hakkında daha fazla bilgi edinmek içinGüven Merkezimiziziyaret edin .