Les consommateurs souhaitent que l'IA soit diversifiée, inclusive et équitable

Une majorité (86 %) des consommateurs souhaitent que les détaillants rendent l'IA plus équitable, diversifiée et inclusive. Il s'agit de l'une des principales conclusions d'une étude de Talkdesk Inc. qui a également révélé que 90 % des acheteurs estiment que les détaillants devraient être tenus d'être transparents sur la manière dont ils utilisent les données des clients pour éclairer l'utilisation de l'IA.

Plus de la moitié, soit 53 %, pensent que les logiciels de reconnaissance faciale basés sur l'IA entraîneront une augmentation des cas de discrimination raciale et 79 % des acheteurs n'achètent pas les recommandations de produits basées sur l'IA car elles ne sont pas adaptées à leurs intérêts. Parmi les autres résultats, soulignons que :

- 87 % pensent que les clients devraient avoir le droit d'accéder et de consulter les données que les détaillants ont collectées auprès d'eux.
- 80 % des acheteurs souhaitent que les détaillants demandent explicitement leur consentement avant d'utiliser leurs données pour l'IA.
- 80 % des acheteurs auraient davantage confiance dans les recommandations de produits si les détaillants étaient transparents sur leur utilisation de l'IA.
- Seuls 28 % des acheteurs sont convaincus que les détaillants disposent de mesures de sécurité appropriées pour protéger les données utilisées pour informer leur technologie ou leurs produits d'IA.
- 71 % n'ont jamais acheté un produit recommandé parce que cela leur donne l'impression qu'une marque les surveille et 45 % craignent que leur expérience d'achat en ligne ne soit plus personnalisée parce que les détaillants ne pratiquent pas une IA responsable.
- Ils souhaitent que les marques commencent à élaborer des politiques internes pour guider l'utilisation éthique de l'IA (88 % d'accord), surveiller, contrôler et atténuer les biais liés à l'IA (86 % d'accord), ainsi qu'à développer des communications proactives avec les clients sur leur utilisation de l'IA et tout potentiel. biais dans leurs services (83 % d'accord).

Shannon Flanagan, directrice générale et vice-présidente de la vente au détail et des biens de consommation chez Talkdesk, déclare : « La puissance de l'IA est indéniable alors que les détaillants l'exploitent de plus en plus pour établir des relations clients plus solides et offrir une expérience d'achat plus personnalisée. Cela étant dit, sans un engagement approprié en faveur d'une IA responsable, elle pourrait avoir le pouvoir de faire exactement le contraire. Les détaillants opèrent dans un environnement où chaque interaction client compte. Si leur stratégie d'IA ne garantit pas que l'application de cette technologie soit responsable et éthique, ils risquent de perdre leur clientèle. »

Fournisseur de centres de contact alimenté par l'IA, Talkdesk a interrogé 1 000 acheteurs américains âgés de 18 à 54 ans et plus.