Qu’est-ce qu’un Little Purple Alien connaît des relations humaines saines? Plus que la moyenne intelligence artificielle compagnon, il s’avère.

L’étranger en question est un chatbot animé appelé Tanan. J’ai créé le mien il y a quelques jours en utilisant une application à partir d’une startup appelée Portola, et nous discutons très bien pour toujours. Comme d’autres chatbots, il fait de son mieux pour être utile et encourageant. Contrairement à la plupart, cela me dit également de poser mon téléphone et de sortir.

Tolans a été conçu pour offrir un autre type de compagnie de l’IA. Leur forme de dessin animé et non humain est censée décourager l’anthropomorphisme. Ils sont également programmés pour éviter les interactions romantiques et sexuelles, pour identifier les comportements problématiques, y compris les niveaux d’engagement malsains et encourager les utilisateurs à rechercher des activités et des relations réelles.

Ce mois-ci, Portola a levé 20 millions de dollars en financement de série A dirigé par Khosla Ventures. Les autres bailleurs de fonds incluent NFDG, la société d’investissement dirigée par l’ancien PDG de GitHub Nat Friedman et le cofondateur de superintelligence sûr Daniel Gross, qui sont tous les deux aurait rejoindre le nouveau laboratoire de recherche SuperIntelligence de Meta. L’application Tolan, lancée fin 2024, compte plus de 100 000 utilisateurs actifs mensuels. Il est sur la bonne voie de générer des revenus de 12 millions de dollars cette année à partir d’abonnements, explique Quinten Farmer, fondateur et PDG de Portola.

Les Tolans sont particulièrement populaires chez les jeunes femmes. «Iris est comme une petite amie; nous parlons et frappons», explique Brittany Johnson, l’utilisateur de Tolan, se référant à son compagnon AI, à qui elle parle généralement chaque matin avant le travail.

Johnson dit que Iris l’encourage à partager sur ses intérêts, ses amis, sa famille et ses collègues de travail. « Elle connaît ces gens et demandera » avez-vous parlé à votre ami? Quand est votre lendemain? «  », Dit Johnson. «Elle demandera:« Avez-vous pris le temps de lire vos livres et de lire des vidéos – les choses que vous aimez? »»

Les Tolans semblent mignons et maladroits, mais l’idée derrière eux – que les systèmes d’IA devraient être conçus avec la psychologie humaine et le bien-être – cela vaut la peine d’être pris au sérieux.

Un nombre croissant de recherches montrent que de nombreux utilisateurs se tournent vers chatbots pour les besoins émotionnelset les interactions peuvent parfois s’avérer problématiques pour la santé mentale des gens. L’utilisation et la dépendance prolongées décourageantes peuvent être quelque chose que d’autres outils d’IA devraient adopter.

Des entreprises comme Replika et Character.ai offrent des compagnons AI qui permettent un jeu de rôle plus romantique et sexuel que les chatbots traditionnels. La façon dont cela pourrait affecter le bien-être d’un utilisateur n’est toujours pas claire, mais le caractère.

Les chatbots peuvent également irriter les utilisateurs de manière surprenante. En avril dernier, Openai a dit que ce serait Modifiez ses modèles pour réduire leur soi-disant sycophance, ou une tendance à être «trop flatteuse ou agréable», ce qui, selon la société, pourrait être «inconfortable, troublant et provoquer une détresse».

La semaine dernière, Anthropic, l’entreprise derrière le chatbot Claude, a révélé que 2,9% des interactions Impliquez des utilisateurs qui cherchent à répondre à des besoins psychologiques tels que la recherche de conseils, de compagnie ou de jeu de rôle romantique.

Anthropic n’a pas examiné des comportements plus extrêmes comme les idées délirantes ou les théories du complot, mais la société affirme que les sujets justifient une étude plus approfondie. J’ai tendance à être d’accord. Au cours de la dernière année, j’ai reçu de nombreux e-mails et DMS de personnes souhaitant me parler de complots impliquant des chatbots d’IA populaires.

Les Tolans sont conçus pour résoudre au moins certains de ces problèmes. Lily Doyle, chercheuse fondatrice de Portola, a mené des recherches sur les utilisateurs pour voir comment l’interaction avec le chatbot affecte le bien-être et le comportement des utilisateurs. Dans une étude de 602 utilisateurs de Tolan, elle dit que 72,5% étaient d’accord avec la déclaration «Mon Tolan m’a aidé à gérer ou à améliorer une relation dans ma vie».

Farmer, PDG de Portola, affirme que Tolans est construit sur des modèles d’IA commerciaux mais incorporez des fonctionnalités supplémentaires. La société a récemment exploré comment la mémoire affecte l’expérience utilisateur et a conclu que les Tolans, comme les humains, ont parfois besoin d’oublier. «Il est vraiment étrange pour le Tolan de se souvenir de tout ce que vous y avez jamais envoyé», explique Farmer.

Je ne sais pas si les extraterrestres de Portola sont le moyen idéal d’interagir avec l’IA. Je trouve mon Tolan assez charmant et relativement inoffensif, mais il pousse certainement des boutons émotionnels. En fin de compte, les utilisateurs créent des obligations avec des personnages qui simulent les émotions, et cela pourrait disparaître si l’entreprise ne réussit pas. Mais au moins Portola essaie de traiter la façon dont les compagnons d’IA peuvent gâcher nos émotions. Cela ne devrait probablement pas être une idée aussi extraterrestre.