Si chiama, come detto, Deception Detector ed è un innovativo strumento di contrasto alla creazione di scam e falsi profili su Bumble, una delle più celebri e utilizzate app di dating.
Secondo Bumble, in fase sperimentale ha ridotto del 45% la presenza di elementi disturbatori, per usare un eufemismo, e ha saputo cancellare il 95% dei nuovi falsi profili prima ancora che potessero entrare in azione.
Bumble, fra le app di dating, è probabilmente quella che più di tutte si dà da fare per combattere i troll nel suo prodotto. Probabilmente questo è dovuto al fatto che founder di Bumble è Wolfe Herd, arrivata a questa esperienza dopo aver già fatto parte del team dei creatori di Tinder.
Herd si era sganciata da Tinder proprio per cercare di creare una app di dating ancora più safe per il pubblico femminile. E certamente con Deception Detector ha compiuto un importante passo in avanti su questa strada.
D’altra parte la preoccupazione di Herd è condivisa dalla maggior parte degli utenti di Bumble e delle app di dating in genere. Gli utenti in tutte le ricerche hanno sempre mostrato di temere i trolls in percentuali ampiamente superiori al 50%, percentuale che cresce fra il pubblico femminile.
Detto questo non bisogna pensare che siano tutte rose e fiori. Perché anche questa funzione non è stata al riparo da dubbi e preoccupazioni, in particolare sul fonte della privacy.
Come tutti prodotti basati sulla IA, anche Deception Detector si nutre di dati, e in molti si sono chiesti dove li prenda, questi dati. In altre parole, si sono chiesti se i dati degli utenti sono sufficientemente protetti o alla fine non siano proprio loro il nutrimento di Deception Detector.
Proprio per questo, molti hanno già chiesto che Bumble faccia passi avanti nel campo della trasparenza, che, cioè, spieghi al meglio come è costruita e come opera la nuova funzione. Anche perché fra i timori è che il modo in cui è nutrita, possa interpretare erroneamente dei dati e discriminare particolari categorie.
In attesa di aggiornamenti, ricordiamo che se avete Bumble la nuova funzione non si implementa automaticamente ma è necessario attivarla usando le impostazioni dell’app.
