in

Mode de rue ou tenue de soirée ? Biais d’image IA


Il y a un problème de biais que nous avons trouvé dans les résultats de recherche de Google – sautez ici pour aller droit au but. Ce fut une découverte importante / un rappel qu’il ne faut pas utiliser aveuglément les résultats des analyses de l’IA.

Bien que nous puissions aller beaucoup plus loin qu’auparavant en termes d’informations, nous devons toujours nous assurer que nous vérifions nos résultats et que nous ne suivons pas aveuglément les données.

Image AI Hypothèse

Nous avons découvert le biais dont nous parlerons ci-dessous au cours de ce processus d’hypothèse :

L’IA peut-elle nous aider à choisir de meilleures images pour nos clients ?

J’ai regardé l’état actuel et j’ai pensé, comment sélectionnons-nous les images pour les flux de commerce électronique et les publicités sociales aujourd’hui ? Notre équipe de conception obtient-elle les exigences du client, les directives de la marque, etc., puis se rend sur un site pour les sélectionner ? Quelles données utilisons-nous [or not using] prendre ces décisions ?

L’autre côté de mon cerveau était comme – quelles données puis-je déjà avez-vous pu aider mon équipe de conception à choisir différentes images à tester ?

Lorsque nous découvrons « où nous nous classons » sur Google, nous devons déployer des outils qui grattent les pages de résultats des moteurs de recherche afin de nous dire où nous nous classons par rapport à nos concurrents. En faisant ce grattage, nous obtenons également beaucoup d’informations, comme « Google affiche-t-il des images comme réponse et dans quelle position ?” – c’est là que je me suis concentré.

Maintenant, j’ai pu voir des choses comme où mes clients paient beaucoup d’argent pour cibler un mot clé avec des annonces textuelles, mais l’API considère qu’un ensemble d’images est plus probablement la bonne réponse à la question des utilisateurs ?

Puis la magie opère

Une fois que j’ai trouvé les mots-clés qui déclenchent des images, si je pouvais ensuite obtenir ces images à partir de la recherche Google et dans API Google Vision Je pourrais obtenir toutes les parties des images, trouver leur point commun et comparer le point commun à ce que nous montrons.

C’est dans le processus de travail sur cette hypothèse que je me suis heurté à cette question…

Lors de la préparation d’un nouveau client de soins de santé, je voulais leur montrer la puissance de l’utilisation de notre entrepôt de données / infrastructure, j’ai donc choisi un exemple dans leur espace.

J’ai vu des tendances autour des médecins noirs augmenter pour d’autres clients de la santé. Lorsque vous recherchez Black OB/GYN dans Google Trends, vous pouvez le voir :

Dans les résultats de recherche Google, vous pouvez voir qu’ils pensent que les images sont une bonne réponse pour le terme Black OB/GYN. Donc, ils montrent des femmes médecins noires, parfaites – super match.

Si vous voulez faire cela à grande échelle, vous devez puiser dans l’API Vision AI de Google, mais pour que les débutants obtiennent simplement ce dont nous avions besoin pour ce nouveau client Healthcare, nous avons pensé que nous devions simplement télécharger ces photos dans la version de démonstration :

L’image ci-dessous a été la première à exécuter l’API de démonstration :

Voici ce que l’IA renvoie :

Mais c’était l’identification deux plus bas qui était déroutante :

Mode de rue ? Peut-être parce que son visage est couvert, il y a beaucoup moins à utiliser pour l’API d’image ? Essayer à nouveau…

Les résultats:

Mode de rue encore? C’est à ce moment-là que j’ai commencé à demander à notre équipe Seer un contrôle de santé mentale. Ils ont commencé à intervenir…

Nichole avait une hypothèse et l’a testée :

Dana et Theresa ont réussi plus de tests :

ID de la photo de stock libre de droits Shutterstock : 138047795 |  Contributeur photo : Zdenka Darula ID de la photo de stock libre de droits Shutterstock : 138047795 |  Contributeur photo : Zdenka Darula

Ce que cela signifie pour l’avenir de l’IA de l’image

Alors que les entreprises continuent d’augmenter la courbe de maturité des données avec l’IA et l’apprentissage automatique, il est important de surveiller de près les résultats de nos analyses. Le danger de l’utilisation des données peut être de leur faire aveuglément confiance et de créer une déconnecter entre vous et votre public.

Il convient de noter qu’il ne s’agit pas non plus de jeter le blâme sur l’API Vision de Google – dans l’ensemble, Google sait évidemment que les biais sont un problème dans leurs produits et ils travaillent activement pour résoudre certains d’entre eux. Pendant qu’ils s’efforcent d’améliorer les biais dans les modèles pré-formés, nous serons prêts à vérifier nos entrées et nos sorties et à suggérer à d’autres spécialistes du marketing de faire de même lorsque nous mettrons la main sur plus de données.

Ressources additionnelles

En savoir plus sur l’importance de créer des produits plus inclusifs pour tous :






Nouvelle incitation à l'action


Vous recherchez une agence partenaire pour vous aider à libérer la puissance de vos données ? Découvrez les services de marketing numérique de Seer et contactez-nous !


Inscrivez-vous à notre newsletter pour plus de messages comme celui-ci dans votre boîte de réception :

Written by manuboss

Intégration de Serpstat et Collaborator.pro pour rechercher des sites Web de qualité pour la publication d’invités.

Comment la limite d’exploration de Google de 15 Mo affecte le référencement