Ebeveyn rehberliği: 'yapay zeka', bebek bakıcısını sosyal medya tarihlerine göre derecelendirirdi
Jessie Battaglia, bir yaşındaki oğlu için yeni bir bebek bakıcısı aramaya başladığında, cezaevi geçmişi, ebeveyn yorumları ve yüz yüze görüşmeden elde edebileceğinden daha fazla bilgi istedi.
Böylece bir bakıcının kişiliğini değerlendirmek için "gelişmiş yapay zeka" kullanan bir çevrimiçi hizmet olan Predictim'e döndü ve tarayıcılarını bir adayın binlerce Facebook, Twitter ve Instagram gönderisine yönlendirdi.
Sistem 24 yaşındaki bir adayın otomatik "risk derecesi" sundu ve uyuşturucu bağımlısı olma riskinin çok düşük olduğunu söyledi. Ancak zorbalık, taciz, “saygısız” olmak ve “kötü bir tavır” olmak için biraz daha yüksek bir risk değerlendirmesi yaptı.
Sistem neden bu kararı verdiğini açıklamadı. Ancak, bakıcının güvenilir olduğuna inanan Battaglia, birdenbire şüphe duyuyordu.
Los Angeles yakınında yaşayan 29 yaşındaki Battaglia, "Sosyal medya bir insanın karakterini gösteriyor" dedi. “Öyleyse neden ikiye girdi, bir değil?”
Predictim, ebeveynlere dünyanın dört bir yanındaki işverenlere düzinelerce diğer teknoloji firmasının sattığı aynı oyun kitabını sunuyor: bir kişinin konuşmasını, yüz ifadelerini ve çevrimiçi yaşamlarının gizli yönlerini açığa çıkarma vaadi ile çevrimiçi tarihini analiz eden yapay zeka sistemleri.
Teknoloji, bazı şirketlerin çalışanları işe alma, işe alma ve gözden geçirme yaklaşımlarını nasıl yeniden şekillendirdiğini, işverenlere yeni bir istilacı psikolojik değerlendirme ve gözetim dalgası yoluyla iş adaylarına rakipsiz bir bakış açısı sağladığını göstermektedir.
Teknoloji şirketi Fama, AI'yı polis çalışanlarının sosyal medyalarına "toksik davranış" için kullandığını ve patronlarını uyardığını söyledi. Ve Geico, Hilton ve Unilever gibi şirketlerle çalışan işe alım teknolojisi firması HireVue, video röportajlarında başvuru sahiplerinin tonunu, kelime seçimini ve yüz hareketlerini otomatik olarak analiz eden ve işlerini yapabileceklerini ve işlerini bozan bir sistem sunuyor. (Adayların en iyi sonuçlar için gülümsemeleri teşvik edilir.)
Ancak eleştirmenler Predictim ve benzeri sistemlerin otomatik ve muhtemelen yaşamı değiştiren kararları neredeyse kontrolsüz hale getirerek kendi tehlikelerini sunduğunu söylüyorlar.
Sistemler, bir kişinin iç yaşamının karmaşıklığını nasıl bir erdem veya zarar hesaplamasına indirgettikleri hakkında çok az ayrıntı veren kara kutu algoritmalarına dayanır. Ve Predictim'in teknolojisi ebeveynlerin düşüncesini etkilese bile, tamamen kanıtlanamayan, büyük ölçüde açıklanamayan ve uygun bir bebek bakıcısının nasıl paylaşması, bakması ve konuşması gerektiği konusundaki sessiz önyargılara karşı savunmasız kalıyor.
Bir teknoloji savunuculuğu grubu olan Dijital Demokrasi Merkezi'nin direktörü Jeff Chester, “AI'nın insanlara karşı sorumlu olmasını sağlamadan her türlü kararı verme gücünü ele geçirmek için bu aceleci” dedi. “Sanki insanlar dijital Kool-Aid'i içtiler ve bunun yaşamlarımızı yönetmenin uygun bir yolu olduğunu düşünüyorlar.”
Tahmincinin taramaları, en genç bakıcıların çoğu için hayatlarının çoğunu kapsayabilecek bir bakıcı sosyal medya geçmişini analiz eder. Ve bakıcılara, reddederlerse rekabetçi işler için büyük dezavantajları olacakları söylenir.
Predictim'in kurucu ortağı ve kurucusu Sal Parsa, geçen ay Berkeley'deki SkyDeck teknoloji kuluçka makinesinde Kaliforniya Üniversitesi'nin bir parçası olarak başlatılan şirketin, teknolojinin kullanımıyla ilgili etik soruları ciddiye aldığını söyledi. Ebeveynler, reytingleri "bakıcının asıl niteliklerini yansıtabilecek veya yansıtmayacak" bir arkadaşı olarak görmeleri gerektiğini söyledi.
Ancak, sorunlu veya şiddetli bir bebek bakıcısını işe alma tehlikesi de, AI'yı çocuğunu güvende tutmayı ümit eden bir ebeveyn için gerekli bir araç haline getirdiğini de sözlerine ekledi.
“Google’da kötü niyetli bakıcıları ararsanız, şu anda yüzlerce sonuç göreceksiniz” dedi. “Orada zihinsel hastalığı olan veya yeni doğmuş kötülük yapan insanlar var. Amacımız onları durdurmak için elimizden gelen her şeyi yapmak.”
Bir Tahmini tarama 24, 99 dolardan başlar ve bir bakıcının adı ve e-posta adresini ve sosyal medya hesaplarına geniş erişimi paylaşma iznini gerektirir. Çocuk bakıcısı reddedebilir, ancak bir ebeveyni reddettiği konusunda bilgilendirilir ve bir e-postada bebek bakıcısına "ilgilenen ebeveyne bu isteği yerine getirene kadar sizi işe alamayacağı" bildirilir.
Predictim'in yöneticileri, bebek bakıcılarının Facebook, Twitter ve Instagram gönderilerinin çevrimdışı yaşamlarıyla ilgili ipuçlarını değerlendirmek için "bilgisayar vizyonu" olarak bilinen bir görüntü tanıma yazılımı kullandıklarını söylüyor. Ebeveyne yalnızca rapor sunulur ve bakıcıya sonuçları anlatması gerekmez.
Ebeveynler, muhtemelen, bakıcılarının halka açık sosyal medya hesaplarına bakabiliyorlardı. Ancak bilgisayar tarafından oluşturulan raporlar, yıllarca süren bir çevrimiçi faaliyetin derinlemesine incelenmesini vaat ediyor, tek bir basamağa indiriliyor: pratik olmayan bir göreve sarhoş edici şekilde basit bir çözüm.
Risk derecelendirmeleri, açık içerik ve uyuşturucu kullanımı dahil olmak üzere çeşitli kategorilere ayrılmıştır. Başlangıç, aynı zamanda sisteminin, bebek bakıcılığını kibarlık, başkalarıyla çalışma yeteneği ve "pozitiflik" gibi diğer kişilik özelliklerine göre değerlendirebileceğini de duyurdu.
Şirket, milyarlarca dolarlık "ebeveyn dış kaynak kullanımı" endüstrisini büyütmeyi umuyor ve ücretli ebeveynlik ve "mumya" blogları aracılığıyla reklam vermeye başladı. Şirketin pazarlaması, gizli sırları açığa vurma ve "her ebeveynin kabusunu" önleme yeteneğine yoğun bir şekilde odaklanıyor ve bu yılın başlarında sekiz aylık bir kızın ağır şekilde yaralanmasıyla cezalandırılan bir Kentucky bebek bakıcısı da dahil olmak üzere ceza davalarına işaret ediyor.
Bir şirket pazarlama belgesinde, "Onu çocuklarını asla yalnız bırakmayacaklarını" belirten, "Bu bebek bakıcısı tarafından yaralanan küçük kızın ebeveynleri, Tahmin sürecini veterinerlik sürecinin bir parçası olarak kullanabildi" dedi.
Ancak teknoloji uzmanları, ebeveynlerin test edilmemiş doğrulukta kişilik taramaları satma korkusuyla mücadele ettiği endişeleri de dahil olmak üzere sistemin kendi kırmızı bayraklarını kaldırdığını söylüyor.
Ayrıca, sistemlerin nasıl eğitildiğini ve bakıcıların sosyal medya kullanımının bulanık anlamlarını yanlış anlamada ne kadar savunmasız olduklarını da sorguluyorlar. En yüksek riskli taramalar dışındaki herkes için, ebeveynlere yalnızca şüpheli davranış önerileri verilir ve kendi başlarına değerlendirecekleri özel ifadeler, bağlantılar veya ayrıntılar bulunmaz.
Bir bebek bakıcısının taraması olası zorbalık davranışı için işaretlendiğinde, talep eden sinir bozucu anne, yazılımın gerçek zorbalık diline karşılık eski bir film teklifi, şarkı sözü veya başka bir ifade görüp görmediğini söyleyemediğini söyledi.
Ancak Tahmini yine de ülke çapında genişleme için hazır olduğunu söylüyor. Milyonlarca ebeveynin ziyaret ettiği çevrimiçi bir bebek bakıcısı pazarı olan Sittercity'deki yöneticiler, gelecek yılın başlarında, Predictim'in otomatik derecelendirmesini sitenin şu anki bakıcı taraması ve arka plan kontrolleri dizisine katlayacak bir pilot program başlattıklarını söyledi.
Sittercity'nin ürün müdürü Sandra Dainora, bunun gibi araçların yakında çevrimiçi bakıcılar bulmak için "standart para birimi" olacağına inanan "Bir bakıcı bulmak çok fazla belirsizlik getirebilir" dedi. "Ebeveynler her zaman en iyi çözümü, en çok araştırmayı, en iyi gerçekleri ararlar."
Washington post