Instagram test een AI-tool die je leeftijd verifieert door je gezicht te scannen


Instagram test nieuwe methoden voor gebruikers om hun leeftijd te verifiëren, waaronder een AI-tool die is gebouwd door een extern bedrijf, Yoti, dat schat hoe oud je bent door gewoon je gezicht te scannen.

Officieel moet je minimaal 13 jaar oud zijn om je aan te melden voor een Instagram-account, maar jarenlang deed het bedrijf weinig moeite om deze regel af te dwingen. Tot 2019 nam het niet eens de moeite om nieuwe gebruikers naar hun geboortedatum te vragen, laat staan ​​om deze informatie te verifiëren. Na door experts op het gebied van privacy en kinderveiligheid over de kolen te zijn geharkt, heeft Instagram echter steeds meer functies voor leeftijdsverificatie geïntroduceerd, evenals methoden om jongere gebruikers van volwassenen te scheiden.

Momenteel vraagt ​​Instagram gebruikers alleen om hun leeftijd te verifiëren wanneer tieners hun geboortedatum proberen te bewerken om ze als 18 jaar of ouder weer te geven. Om hun leeftijd te verifiëren, kunnen gebruikers foto’s van verschillende ID-kaarten insturen, en vanaf vandaag hebben gebruikers in de VS twee extra opties: sociale vouching en AI-schatting.

Voor de eerste methode, social vouching, zal Instagram drie wederzijdse volgers van de gebruiker vragen om te bevestigen hoe oud ze zijn. De wederzijdse volgers moeten zelf ouder zijn dan 18 jaar en krijgen drie dagen de tijd om op het verzoek van Instagram te reageren. De tweede methode, AI-schatting, omvat het verzenden van een video-selfie naar een extern bedrijf, Yoti, dat machine learning gebruikt om de leeftijd van een persoon te schatten.

Yoti is een bekende speler op het gebied van online leeftijds- en identiteitsverificatie, en de technologie ervan is goedgekeurd voor gebruik door de Britse overheid en Duitse digitale toezichthouders. Het gebruikt verschillende gezichtssignalen om de leeftijd van een doelwit te schatten. (Hoewel het bedrijf zelf zegt niet te weten wat deze signalen precies zijn. Rimpels? Een blik van onuitsprekelijke droefheid? Het zit er allemaal in.)

Je kunt Yoti’s systeem hier op internet proberen (het bedrijf zegt dat het geen gegevens bewaart die je ermee deelt) en de nauwkeurigheidspercentages hieronder bekijken. De cijfers tonen, in jaren, het foutenpercentage van Yoti’s leeftijdsschattingen voor verschillende leeftijdsgroepen, huidskleuren en geslachten.

Yoti’s gegevens laten zien dat de technologie iets slechter presteert bij vrouwelijke onderwerpen en gezichten met donkere huidtinten.
Afbeelding: Yoti

Uit de gegevens blijkt dat Yoti’s systeem minder nauwkeurig is voor vrouwelijke gezichten en mensen met een donkere huid, en dat de schattingen voor jongeren onder de 24 jaar tot 2,5 jaar kunnen afwijken. Als de tool echter een globale schatting maakt over de leeftijd van een gebruiker, verbetert de nauwkeurigheid ervan. Uit een analyse uit 2020 van Yoti’s systeem door een externe non-profitorganisatie bleek dat het 98,89 procent betrouwbaar was in het raden of mensen van 18 jaar of ouder ouder of jonger waren dan 25 jaar. fouten zijn.)

Het is niet duidelijk hoe deze cijfers zich zullen vertalen voor de use case van Instagram, of dat het systeem echt veilig genoeg is voor dit doel. We waren bijvoorbeeld in staat Yoti’s webdemo voor de gek te houden door foto’s voor onze webcam te houden. En het is niet duidelijk wat een minderjarige gebruiker ervan zou kunnen weerhouden hetzelfde te doen, of de hulp in te roepen van een oudere vriend om de test te halen.

Dit is niet de enige AI-aangedreven tool die Instagram gebruikt om de leeftijden van gebruikers te schatten. Sinds vorig jaar gebruikt het bedrijf geautomatiseerde systemen om te zoeken naar minderjarige gebruikers. Deze tools scannen informatie zoals verjaardagsberichten van gebruikers en de leeftijd van hun vriendschapsgroepen. Als een gebruiker bijvoorbeeld beweert 20 te zijn, maar berichten plaatst over het vieren van zijn 17e verjaardag, wordt zijn account gemarkeerd en moet hij mogelijk zijn leeftijd verifiëren. Instagram zegt dat het werkt aan het toevoegen van nieuwe datapunten aan dit systeem, en zelfs een taalanalysetool aan het testen is die zal bepalen of een gebruiker een volwassene of een tiener is op basis van hoe ze schrijven.





Source link

Leave a Comment