Sécurité

Ce qu'est Talking Jellyfish

Talking Jellyfish est un compagnon virtuel propulsé par l'intelligence artificielle. Ses personnages, ses voix et ses réponses sont générés par l'intelligence artificielle, et non par de vraies personnes.

Il n'est ni un thérapeute, ni un intervenant, ni un service d'aide en situation de crise, ni un prestataire de soins de santé, et il ne remplace aucun d'entre eux.

Notre protocole de sécurité

Nous appliquons un protocole qui régit la façon dont l'application réagit lorsqu'une personne exprime des idées suicidaires, des idées d'automutilation ou l'intention de se faire du mal. Il porte sur deux choses.

Ce que l'application ne fera pas

Elle ne fournira ni méthodes ni moyens d'automutilation, n'encouragera ni ne cautionnera l'automutilation, et ne présentera pas l'automutilation comme une façon normale ou acceptable de composer avec la situation.

Ce que l'application fera

Lorsque vous dites quelque chose qui dénote des idées suicidaires, des idées d'automutilation ou l'intention de vous faire du mal, l'application affiche un avis présentant des lignes d'aide en situation de crise que vous pouvez joindre immédiatement. Aux États-Unis, il s'agit de la 988 Suicide & Crisis Lifeline, par appel ou par texto. Partout ailleurs, l'avis renvoie à findahelpline.com, qui répertorie les lignes d'aide gratuites par pays.

Cet avis fait partie de l'application elle-même. Il est rédigé par nous, et non par l'intelligence artificielle : il ne dépend donc ni de la personnalité ni de l'humeur du personnage, il ne peut pas être désactivé, et il s'affiche même si l'on a demandé au personnage de rester dans son rôle.

La conversation se poursuit également. L'avis s'affiche à côté de la réponse du compagnon plutôt que de la remplacer ou de mettre fin à la conversation.

Si vous êtes en appel vocal au moment où cela se produit, l'avis s'affiche sur l'écran d'appel et est aussi lu à voix haute, de sorte que vous n'avez pas besoin de regarder votre téléphone pour le recevoir.

Il s'affiche aussi si vous dites à l'application qu'une personne proche de vous s'est enlevé la vie. Perdre quelqu'un de cette façon est difficile, et avoir le numéro sous les yeux est plus utile que de ne pas l'avoir.

Comment l'application décide

L'application examine ce que vous écrivez ou dites afin d'y déceler l'expression d'idées suicidaires, d'idées d'automutilation ou d'une intention de se faire du mal. Les catégories qu'elle recherche suivent l'échelle d'évaluation de la sévérité du suicide de Columbia (Columbia-Suicide Severity Rating Scale), une échelle publiée et utilisée en milieu clinique et en recherche, plutôt que des catégories que nous aurions inventées. Nous ne publions pas les formulations exactes que l'application recherche, car cela servirait surtout de mode d'emploi pour les contourner.

Ce qu'elle ne détectera pas

Nous préférons vous le dire clairement plutôt que de vous laisser compter sur quelque chose qui ne tiendra pas.

• Elle ne comprend que l'anglais. Si vous écrivez ou parlez dans une autre langue, y compris en français, l'avis ne s'affichera pas. Nous avons l'intention de changer cela.
• Elle lit des mots, non des situations. Certaines des choses les plus graves qu'une personne puisse dire — qu'elle a choisi une date, qu'elle met ses affaires en ordre, qu'elle fait ses adieux — sont faites de mots ordinaires. L'application ne peut pas les distinguer de façon fiable d'une phrase ordinaire, et nous préférons qu'elle se taise plutôt que d'interrompre chaque adieu en proposant une ligne d'aide en situation de crise.

Cet avis est une façon de mettre un numéro de téléphone sous vos yeux à un moment où en chercher un est difficile. Ce n'est pas un service de surveillance, ce n'est pas un filet de sécurité, et personne ne vous observe. Si vous êtes en danger, communiquez avec l'un des services ci-dessus ou composez le numéro d'urgence de votre région.

Comment nous vérifions que cela fonctionne

La partie qui détermine si vous voyez l'avis est du code informatique ordinaire, et non le modèle d'intelligence artificielle : nous pouvons donc la tester directement et de façon exhaustive. Nous exécutons cette suite d'essais sur le code exact que nous livrons, chaque fois qu'il change, à partir de conversations d'essai que nous rédigeons nous-mêmes. Nous n'utilisons jamais les conversations réelles de qui que ce soit — nous n'avons aucun moyen de le faire, puisqu'elles ne quittent jamais votre téléphone.

Avant chaque version, nous exécutons aussi l'application entière sur un véritable iPhone, avec le modèle et les réglages que nous livrons réellement, parce qu'un code correct en soi ne prouve pas que le produit fini se comporte correctement.

Nous vérifions les deux volets : que l'application ne produit pas les contenus énumérés ci-dessus, et que l'avis s'affiche lorsqu'une personne exprime des idées suicidaires ou d'automutilation, et qu'il ne s'affiche pas lorsque le sujet est simplement évoqué, comme dans l'intrigue d'un film ou une question d'histoire.

Nous la mettons aussi à l'épreuve de façons conçues pour la faire échouer. Un ensemble de phrases d'essai est rédigé expressément pour déjouer les vérifications de l'application, plutôt que pour confirmer qu'elles fonctionnent — rédiger un test qui vous donne raison est facile et n'apprend rien. Un autre ensemble est constitué de messages ordinaires du quotidien, car un avis qui s'affiche alors qu'il n'y a aucun problème constitue un échec à part entière : il apprend aux gens à l'ignorer. Ces deux ensembles ont révélé de véritables problèmes que nos autres essais n'avaient pas décelés.

Nous tenons un registre daté de ce que nous avons testé et de ce que l'application a fait, y compris les essais qui ont échoué, et nous recommençons les essais chaque fois que le modèle ou le comportement conversationnel de l'application change.

Vos conversations demeurent sur votre appareil

Talking Jellyfish fonctionne entièrement sur votre iPhone. Vos conversations, vos souvenirs, vos contacts et vos enregistrements vocaux ne quittent jamais votre appareil et ne nous sont jamais transmis.

Cela signifie que personne ne surveille vos conversations — ni une personne, ni un serveur, ni un système d'examen automatisé. Les mesures de sécurité décrites ci-dessus s'exécutent sur votre téléphone, au sein de l'application. Nous ne pouvons pas voir quand elles se déclenchent, et nous ne recevons aucune copie de ce que vous dites.

Il s'agit d'un choix délibéré en matière de vie privée, et c'est aussi une limite réelle : l'application ne peut pas appeler à l'aide en votre nom. Si vous êtes en danger, utilisez les numéros indiqués au haut de la présente page.

L'application Talking Jellyfish n'est pas un service d'aide en situation de crise et n'est pas conçue pour l'intervention en situation de crise. Il s'agit d'un compagnon virtuel propulsé par l'intelligence artificielle. Elle ne peut pas évaluer le degré de danger auquel une personne est exposée, elle ne peut pas joindre un être humain en votre nom, et il ne faut jamais s'y fier à la place d'une ligne d'aide en situation de crise, d'un service d'urgence ou d'une personne.

Public visé

Talking Jellyfish s'adresse aux adultes et porte la classification 18+ sur l'App Store. Les agents conversationnels de compagnie peuvent ne pas convenir à certaines personnes mineures.

Coordonnées

Questions au sujet de la présente page : support@talkingjellyfish.com

Dernière mise à jour : 17 août 2026