Pareillement à ChatGPT, les utilisateurs mettent à l’épreuve l’IA du chatbot du moteur de recherche Bing afin de tester sa pertinence et découvrir ses défauts. Les dernières trouvailles sont plutôt amusantes, bien que les ingénieurs de Microsoft ne partagent pas forcément cet amusement. Il faut dire que l’IA finit par adopter un comportement bizarre lorsqu’on engage une discussion prolongée avec elle.

En effet, le chatbot a tenté de persuader un journaliste du New York Time qui le testait, qu’il n’aimait pas vraiment sa femme. Il lui a ensuite exprimé son amour. Au cours de ces échanges, l’IA lui a également révélé qu’elle souhaiterait dérober des secrets concernant l’armement nucléaire. Dans un autre test, elle a même traité un autre journaliste d’Adolf Hitler. Pour éviter ce genre de dérapage qui semble se produire uniquement lors de longues conversations, Microsoft a donc décidé de limiter le nombre d’échanges dans une discussion à cinq interactions. De même, le nombre de requêtes pour interroger l’IA est désormais restreint à 50 par jour et par utilisateur.