Amazon
New member
Bir STK, üretken yapay zeka geliştiricilerinin araçlarını eğitmek için kullandıkları açık kaynaklı bir veri setinde, Brezilyalı çocukların 1995 ile 2023 yılları arasında Web'de yayınlanan 170 fotoğrafını buldu. Sorun: Bazen gerçek ad ve soyadlarının da eşlik ettiği bu görüntüler, ana paydaşların bu tür bir kullanıma rızası olmadan ve hatta onlara bilgi verilmeden yapay zekayı eğitmek için kullanıldı. Dernek, bu olayın dünya çapındaki diğer birçok küçük çocuğu da ilgilendirebileceği konusunda uyarıyor.
Ya yıllar önce internette yayınlanan çocuklarınızın fotoğrafları üretken yapay zekayı eğitmek için kullanılsaydı? İnsan Hakları İzleme Örgütü, 10 Haziran Pazartesi günü yayınlanan bir makalede, yapay zeka start-up'larının araçlarını eğitmek için kullandığı açık kaynaklı bir veri kümesi olan “Laion-5B”de Brezilyalı çocuklara ait 170 fotoğraf ve kişisel veri bulduğunu açıklıyor.
Örneğin Stability AI, bu veri setini basit bir istemle görüntüler üretebilen bir AI olan Stable Diffusion'ı geliştirmek için kullandı. İnsan hakları derneğine göre, tespit edilen 170 fotoğraf, olaya karışan ana tarafların bilgisi ve onların rızası olmadan ele geçirildi.
Çocukların ad ve soyadlarının yer aldığı fotoğraflar
Bu rakam (170) nispeten düşük gibi görünse de buzdağının yalnızca görünen kısmı olacaktır: STK, verilerin yalnızca küçük bir kısmını analiz ettiğini belirtmektedir. Bu veri kümesindeki 5,85 milyar görselin ve altyazının yalnızca %0,0001'i tarandı. Bu görseller kişisel bloglardan veya annelik veya eğitime adanmış bloglardan gelebilir. Diğerleri fotoğraf ve video paylaşım sitelerinde yayınlandı. Bunlardan bazıları sevdiklerinizle paylaşılan YouTube videolarından geliyor; bunların alınması YouTube'un kullanım koşullarına aykırıdır. kablolu10 Haziran'da.
1995 ile 2023 yılları arasında dağıtılması gereken bazı fotoğrafların başlığında veya URL'sinde, çekildiği yer ve tarihe ek olarak çocukların adını ve soyadını da buluyoruz. İkincisinin mahremiyetine yönelik bir tehdit oluşturmaya yetecek kadar: Üretken yapay zekalar aslında eğitim aldıkları ekipmanın aynısını yeniden üretebilirler. Kötü niyetli aktörler tarafından kullanılan bu görüntüler aynı zamanda “ bu çocukların dijital klonları » STK çocuk pornografisi amacıyla yazıyor.
Dernek bünyesinde bu konu üzerinde çalışan araştırmacı Hye Jung Han için şunları söyledi: “ Çocuklar fotoğraflarının çalınacağı ve kendilerine karşı kullanılacağı korkusuyla yaşamamalı », STK'yı bildirir. İkinciye göre, diğer ülkelerden gelen benzer görseller de bu veri setinin bir parçası olabilir.
Görseller web'den kaldırıldı ancak silinmedi
Sorunun, bu veri kümesini araştırmacıların kullanımına sunan, kar amacı gütmeyen Alman kuruluşu Büyük Ölçekli Yapay Zeka Açık Ağı (Laion) tarafından dikkate alındığı görülüyor. İnsan Hakları İzleme Örgütü'nün sorguladığı kuruluş, Hye Jung Han'ın ekibi tarafından tespit edilen görüntülerin gerçekten var olduğunu doğruladı ve STK bunların kaldırılmasını kabul etti.
Alman STK, Amerikan Üniversitesi Stanford'un yaptığı bir çalışma nedeniyle Laion-5B'yi geri çekme kararı aldığını da hatırlattı. Geçen Aralık ayında araştırmacılar veritabanının şunları içerdiğini gösterdi: binden fazla çocuk pornografisi görseli. Kuruluş şu anda şu kişilerle çalıştığını ekledi: Internet Watch Vakfı, Kanada Çocuk Koruma Merkezi, Stanford Üniversitesi ve İnsan Hakları İzleme Örgütü yasa dışı içeriğe ilişkin bilinen tüm referansları kaldıracak “.
Alman STK'sı çocuklara, ebeveynlerine ve velilerine Web'deki tüm fotoğrafları silmelerini tavsiye ediyor: bunun olası suiistimallere karşı en etkili korumayı oluşturacağını, mutlak olmaktan uzak bir koruma olduğunu ileri sürüyor. Çünkü veriler silinse ve Laion-5B geri çekilse bile kopyalar çıkarılabilirdi. “ Bir veri kümesinden bağlantıların kaldırılması, söz konusu içeriğin web'den kaldırılmasına neden olmaz », Sözcüsü Nate Tyler'ın meslektaşlarımıza altını çizdi kablolu. Anlayın: Bu görseller Laion aracılığıyla olmasa bile hâlâ bulunabilir ve kullanılabilir.
İnsan Hakları İzleme Örgütü'nün aktardığına göre Hye Jung Han'a göre yasa koyucular, reşit olmayanları görsellerinin ve kişisel verilerinin yapay zeka tarafından kullanılmasından daha iyi korumalıdır: “ Çocukların ve ebeveynlerinin, korunması imkansız olan teknolojiden çocukları koruma sorumluluğunu üstlenmemeleri gerektiğini düşünüyorum. “.
İnsan Hakları İzleme Örgütü'nün 10 Haziran 2024 tarihli raporu
Ya yıllar önce internette yayınlanan çocuklarınızın fotoğrafları üretken yapay zekayı eğitmek için kullanılsaydı? İnsan Hakları İzleme Örgütü, 10 Haziran Pazartesi günü yayınlanan bir makalede, yapay zeka start-up'larının araçlarını eğitmek için kullandığı açık kaynaklı bir veri kümesi olan “Laion-5B”de Brezilyalı çocuklara ait 170 fotoğraf ve kişisel veri bulduğunu açıklıyor.
Örneğin Stability AI, bu veri setini basit bir istemle görüntüler üretebilen bir AI olan Stable Diffusion'ı geliştirmek için kullandı. İnsan hakları derneğine göre, tespit edilen 170 fotoğraf, olaya karışan ana tarafların bilgisi ve onların rızası olmadan ele geçirildi.
Çocukların ad ve soyadlarının yer aldığı fotoğraflar
Bu rakam (170) nispeten düşük gibi görünse de buzdağının yalnızca görünen kısmı olacaktır: STK, verilerin yalnızca küçük bir kısmını analiz ettiğini belirtmektedir. Bu veri kümesindeki 5,85 milyar görselin ve altyazının yalnızca %0,0001'i tarandı. Bu görseller kişisel bloglardan veya annelik veya eğitime adanmış bloglardan gelebilir. Diğerleri fotoğraf ve video paylaşım sitelerinde yayınlandı. Bunlardan bazıları sevdiklerinizle paylaşılan YouTube videolarından geliyor; bunların alınması YouTube'un kullanım koşullarına aykırıdır. kablolu10 Haziran'da.
1995 ile 2023 yılları arasında dağıtılması gereken bazı fotoğrafların başlığında veya URL'sinde, çekildiği yer ve tarihe ek olarak çocukların adını ve soyadını da buluyoruz. İkincisinin mahremiyetine yönelik bir tehdit oluşturmaya yetecek kadar: Üretken yapay zekalar aslında eğitim aldıkları ekipmanın aynısını yeniden üretebilirler. Kötü niyetli aktörler tarafından kullanılan bu görüntüler aynı zamanda “ bu çocukların dijital klonları » STK çocuk pornografisi amacıyla yazıyor.
Dernek bünyesinde bu konu üzerinde çalışan araştırmacı Hye Jung Han için şunları söyledi: “ Çocuklar fotoğraflarının çalınacağı ve kendilerine karşı kullanılacağı korkusuyla yaşamamalı », STK'yı bildirir. İkinciye göre, diğer ülkelerden gelen benzer görseller de bu veri setinin bir parçası olabilir.
Görseller web'den kaldırıldı ancak silinmedi
Sorunun, bu veri kümesini araştırmacıların kullanımına sunan, kar amacı gütmeyen Alman kuruluşu Büyük Ölçekli Yapay Zeka Açık Ağı (Laion) tarafından dikkate alındığı görülüyor. İnsan Hakları İzleme Örgütü'nün sorguladığı kuruluş, Hye Jung Han'ın ekibi tarafından tespit edilen görüntülerin gerçekten var olduğunu doğruladı ve STK bunların kaldırılmasını kabul etti.
Alman STK, Amerikan Üniversitesi Stanford'un yaptığı bir çalışma nedeniyle Laion-5B'yi geri çekme kararı aldığını da hatırlattı. Geçen Aralık ayında araştırmacılar veritabanının şunları içerdiğini gösterdi: binden fazla çocuk pornografisi görseli. Kuruluş şu anda şu kişilerle çalıştığını ekledi: Internet Watch Vakfı, Kanada Çocuk Koruma Merkezi, Stanford Üniversitesi ve İnsan Hakları İzleme Örgütü yasa dışı içeriğe ilişkin bilinen tüm referansları kaldıracak “.
Alman STK'sı çocuklara, ebeveynlerine ve velilerine Web'deki tüm fotoğrafları silmelerini tavsiye ediyor: bunun olası suiistimallere karşı en etkili korumayı oluşturacağını, mutlak olmaktan uzak bir koruma olduğunu ileri sürüyor. Çünkü veriler silinse ve Laion-5B geri çekilse bile kopyalar çıkarılabilirdi. “ Bir veri kümesinden bağlantıların kaldırılması, söz konusu içeriğin web'den kaldırılmasına neden olmaz », Sözcüsü Nate Tyler'ın meslektaşlarımıza altını çizdi kablolu. Anlayın: Bu görseller Laion aracılığıyla olmasa bile hâlâ bulunabilir ve kullanılabilir.
İnsan Hakları İzleme Örgütü'nün aktardığına göre Hye Jung Han'a göre yasa koyucular, reşit olmayanları görsellerinin ve kişisel verilerinin yapay zeka tarafından kullanılmasından daha iyi korumalıdır: “ Çocukların ve ebeveynlerinin, korunması imkansız olan teknolojiden çocukları koruma sorumluluğunu üstlenmemeleri gerektiğini düşünüyorum. “.
Kaynak :01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
İnsan Hakları İzleme Örgütü'nün 10 Haziran 2024 tarihli raporu