Open AI, yeni algoritması ile makine öğrenmenin herkes için çevrimiçi içeriği bozabileceğini gösteriyor.

 

 

Kar amacı gütmeyen bir araştırma şirketi olan "güvenli yapay zekaya giden yolu" inceleyen OpenAI, kısa metinler oluşturma becerisine sahip Generative Pre-Traed Transformer-2 (GPT-2) adlı bir makine öğrenme sistemi geliştirdi.

 

 

Sonuç insani yazıyı taklit etmeye o kadar yaklaştı ki, potansiyel olarak "deepfake" içerik için kullanılabilir.

 

 

GPT-2, internetten alınan 40 gb'lık metne dayanarak inşa edildi.

 

 

Buna, en az 3 karma alan bir sosyal medya platformu olan Reddit'in tüm giden bağlantıları da dahil.

 

 

GPT-2 uygun "haber" öyküleri ve diğer kısa metinlerle eşleşelen bir içerik oluşturuyor.

 

 

Sistemin performansı o kadar endişe vericiydi ki, şimdilik araştırmacılar GPT-2'nin sadece daha küçük bir metin yapısına dayanan düşük bir versiyonunu piyasaya sürüyorlar.





Open AI, yeni algoritması ile sahte bir hikaye oluşturdu



Open AI, yeni algoritması ile araştırmacıları korkuttu 2

 

 

OpenAI, bazılarının PayPal'ın "mafya" olarak adlandırdığı şeylere bağlı olan bir grup teknoloji yöneticisinin ve yatırımcının katkılarıyla finanse ediliyor.

 

 

Bu kişiler: Elon Musk, Peter Thiel, Jessica Livingston ve YCombinator'dan Sam Altman, eski PayPal COO ve LinkedIn kurucu ortağı Reid Hoffman ve eski Çizgili Teknoloji Şefi Greg Brockman.

 

 

Brockman şimdi OpenAI'ın CTO'su olarak görev yapıyor.

 

 

Musk, art arda yapay zeka tarafından ortaya çıkarılan potansiyel varoluşsal tehlikeler konusunda uyardı.

 

 

Musk'ın öncülüğünde OpenAI, yapay zeka teknolojisinin geleceğini şekillendirmeye, potansiyel olarak zararlı uygulamalardan uzaklaşmaya çalışmaya odaklandı.

 

 

Sahte içeriğin, "sahte haber" yayıncıları için hem para kazanma hem de yanlış bilgi yayma için nasıl kullanıldığına dair endişeler göz önüne alındığında, GPT-2'nin çıktısı kesinlikle ilgi çekici olarak nitelendiriyor.

 

 

Markov zincir algoritmalarına dayanan diğer metin işleme modelleri genellikle veri kaybederler.

 

 

Ancak, onlardan farklı olan GPT-2, "bot" çıktı ürettiği sırada yazdıkları hakkında hiçbir şey kaybetmedi ve her şeyi bağlamında tuttu.

 

 

Örnek olarak, sisteme iki cümle girişi yapıldı.

 

 

GPT-2, bu cümlelerden  Brexit'in ekonomik etkisine dair bir hikaye olan, Cincinnati'ye yakın nükleer materyal hırsızlığı hakkında bir bilim hikayesi hazırladı.