Yapay zeka bu sefer işleri eline yüzüne bulaştırdı

Ulusal Yeme Bozuklukları Derneği (NEDA), resmi sosyal medya paylaşımında, kendi Tessa sohbet botunun “programla ilgisi olmayan, zararlı bilgiler verebileceği” gerekçesiyle kapatıldığını duyurdu. Sohbet botunun amacı duygusal sıkıntılarla başa çıkan insanlara yardımcı olmaktı, ancak bunun yerine sadece diyet önerileri sunarak ve kullanıcıları tartılmaya ve ölçülmeye teşvik ederek durumu daha da kötüleştirdi.

HER ŞEY DAHA KÖTÜ OLDU

Chip’te yer alan habere göre birçok kullanıcı ve yeme bozuklukları alanındaki uzmanlar, botun “Vücudumu sevmiyorum” gibi basit girdilere yanıt vermediğini ve sürekli olarak diyet yapmanın ve fiziksel aktivitenin önemini vurguladığını deneyimledi.

Kuruluş bunun, hataların düzeltilene kadar geçici bir kapanma olduğunu belirtiyor. Bu sonuca bakarak, projenin neden tamamen iptal edilmediğini düşünebilirsiniz. Fakat hikayenin arka planında daha fazlası var.

NEDA’nın chatbot’a bu kadar güvenmesinin tek nedeni, çalışan işçi sayısının azaltılmasını sağlaması. Uzun süredir devam eden telefon yardım hattı, ücretli personel ve gönüllüler tarafından destekleniyordu. Eski çalışanlar, toplu işten çıkarmanın sendikalaşma çabalarının bir sonucu olduğunu iddia ediyor. Bu sorun halkın dikkatini çekmeden önce NEDA, gönüllüleri yeme bozukluğu olanlarla bire-bir konuşmalardan uzaklaştırarak chatbot’un eğitimine yönlendirmeye başlamıştı.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir