Nous voulons bâtir une entreprise qui ne transforme pas les êtres humains en matière première

1. Comment l’objectif initial peut se perdre

Au cours de notre vie, nous (Mona et moi) avons créé des entreprises, des organisations et des projets sociaux. Le plus souvent, tout a commencé par une idée qui avait du sens. Par quelque chose que nous voulions changer, améliorer ou rendre possible pour la première fois.

Puis sont arrivés les structures, les coûts, les attentes, les processus et la croissance. Tous nécessaires. À un moment donné, la question change parfois.

Au début, elle est : quel effet voulons-nous produire ? Plus tard, elle devient : comment maintenir le système en fonctionnement ?

Cela se produit rarement avec grand fracas. Personne ne se lève un matin en décidant de trahir l’objectif initial. Cela se produit par de petites décisions qui paraissent raisonnables. Un peu plus de chiffre d’affaires. Un indicateur supplémentaire. Une fonction destinée à faire revenir plus souvent les utilisateurs. Un peu plus de contexte, parce que le résultat s’en trouve amélioré. Une formulation qui va plus loin que ce que le produit permet déjà d’affirmer.

Chacune de ces décisions peut être expliquée. Nous autres humains sommes vraiment très doués pour cela.

Et, à un moment donné, on a bâti une entreprise qui parle encore de ses valeurs initiales, mais dépend économiquement depuis longtemps de tout autre chose.

C’est précisément ce que nous voulons empêcher chez FlameP.

2. Les êtres humains peuvent devenir une matière première de différentes manières

Lorsque nous pensons aux matières premières, nous pensons au pétrole, au bois, à l’eau ou aux métaux. Quelque chose est extrait, transformé et exploité économiquement.

Dans l’économie numérique, l’être humain a déjà trop souvent assumé ce rôle. Nous sommes tous nous-mêmes devenus une matière première. À moins d’être assis dans une grotte de l’Himalaya à méditer toute la journée.

Nos données sont traitées. Notre attention est vendue. Notre temps est converti en durée d’utilisation. Notre incertitude suscite de nouvelles utilisations. Notre langage, nos décisions et nos corrections améliorent des systèmes qui ne nous appartiennent pas.

Avec l’intelligence artificielle, cette relation devient encore plus étroite.

Une plateforme classique sait éventuellement sur quelles publications une personne clique, combien de temps elle regarde une vidéo et quel produit elle achète. Une IA s’approche bien davantage de la pensée d’une personne. Nous lui racontons ce sur quoi nous travaillons, la décision qui nous préoccupe, ce que nous ne comprenons pas et ce qui nous fait douter. Nous téléversons des documents, décrivons des relations et corrigeons ses réponses jusqu’à ce qu’elles correspondent à notre langage.

Cela peut être utile.

Mais cela peut aussi créer un contexte personnel toujours plus précieux, alors même que la personne ne peut presque plus savoir qui possède ce contexte, où il est traité et à quel point elle est désormais dépendante d’un fournisseur unique.

C’est pourquoi le règlement général sur la protection des données ne limite pas la protection des données à un consentement formel. Il formule également les principes de limitation des finalités, de minimisation des données et de protection des données dès la conception. Les données à caractère personnel ne doivent pas être utilisées simplement parce qu’elles sont techniquement disponibles, mais uniquement dans la mesure où elles sont nécessaires à une finalité claire. [1]

Agir de manière simplement raisonnable sur le plan juridique ne nous suffit pas.

Se demander si les données sont traitées légalement constitue déjà un début. La question pertinente est de savoir quelle relation une entreprise établit avec les personnes dont dépend sa réussite économique.

3. Nous ne croyons pas que la technologie soit mauvaise

Nous ne sommes pas hostiles à la technologie. Sinon, FlameP serait un projet assez contradictoire.

L’intelligence artificielle peut soulager les personnes de certaines tâches, rendre le savoir plus accessible, réduire les barrières linguistiques et créer des possibilités qui, il y a quelques années encore, étaient réservées aux grandes entreprises ou à des spécialistes hautement qualifiés.

Le Human Development Report 2025 des Nations Unies ne demande donc pas si l’IA est fondamentalement bonne ou mauvaise. Il la décrit comme une question de choix humains. L’élément décisif serait de savoir si elle élargit les capacités et les possibilités d’action des personnes. [2]

La technologie n’a pas de posture. Mais les produits ont des règles. Les modèles économiques ont des incitations. Les indicateurs modifient les décisions. Et les systèmes peuvent pousser les personnes dans une direction sans que quiconque leur en donne expressément l’ordre.

Une entreprise qui gagne de l’argent sur le temps d’utilisation concevra ses produits autrement qu’une entreprise rémunérée pour une tâche accomplie.

Une entreprise qui a besoin d’autant de contexte personnel que possible traitera les données autrement qu’une entreprise qui s’engage techniquement à les limiter.

Une entreprise dont la responsabilité sociale ne commence qu’après la distribution des bénéfices prendra d’autres décisions qu’une entreprise qui intègre déjà les effets dans son produit et son cycle de valeur.

FlameP ne peut pas prétendre être différente uniquement parce que nous écrivons les bonnes phrases sur un site web.

Nous avons formulé des règles qui s’appliquent même lorsqu’elles deviennent économiquement gênantes.

Notre manifeste formule à cette fin trois principes : la preuve avant la confiance, l’achèvement avant la rétention et le flux de valeur avant l’extraction. Ils ne doivent pas relever uniquement de la communication. Ils sont visibles dans le produit, les structures de données, les indicateurs et les validations.

4. La preuve avant la confiance

Les entreprises parlent souvent et volontiers de confiance.

La confiance paraît chaleureuse. Elle paraît humaine. Elle évite également des détails désagréables.

Nous ne voulons pas que les personnes soient simplement obligées de faire confiance à FlameP.

Elles doivent pouvoir voir quel contexte a été utilisé pour une tâche, ce qui a été exclu, quel Provider est intervenu, quelle règle de stockage s’appliquait et si une connexion a été refermée après l’achèvement.

Cela semble technique, mais c’est en réalité une question sociale.

Quiconque demande la confiance d’une personne sans lui donner la possibilité de contrôler répartit le pouvoir de manière très unilatérale.

FlameP ne dissimulera pas ce pouvoir derrière une interface plus aimable. Nous voulons rendre les processus pertinents traçables. Chaque détail technique ne doit pas être affiché en permanence à chaque utilisateur. Mais les décisions essentielles ne doivent pas rester invisibles.

La personne doit pouvoir comprendre ce qui est arrivé à sa tâche et à son contexte.

Nos utilisateurs ne doivent pas devenir eux-mêmes des experts de la protection des données, mais une confiance dépourvue de possibilité de vérification devient très vite un autre mot pour désigner la dépendance.

Notre manifeste personnel contient donc une phrase à l’aune de laquelle nous devons être évalués :

Idée directriceTu n’as pas simplement à nous faire confiance. Tu peux voir ce qui s’est passé.

Cette promesse de produit n’est pas encore entièrement tenue. FlameP est en cours de construction. Mais c’est la direction selon laquelle nous développons l’architecture technique.

5. L’achèvement avant la rétention

Le temps d’une personne n’est pas non plus une matière première.

De nombreux produits numériques sont évalués selon la durée pendant laquelle les personnes restent, la fréquence à laquelle elles reviennent et le nombre d’interactions qu’elles produisent. Il en résulte des fils infinis, la lecture automatique, des séries artificielles et des notifications qui n’ont d’autre but que de déclencher l’utilisation suivante.

La Commission européenne considère désormais expressément de tels mécanismes comme une source potentielle de risques systémiques. Dans ses constatations préliminaires relatives à TikTok ainsi qu’à Instagram et Facebook, elle cite notamment le défilement infini, Autoplay, les notifications push et les systèmes de recommandation fortement personnalisés comme des composantes d’une conception potentiellement addictive. Les procédures ne sont pas encore définitivement achevées. Elles montrent toutefois que la conception des produits n’est depuis longtemps plus traitée uniquement comme une question de confort ou de goût. [3] [4]

FlameP ne doit pas tirer économiquement profit du fait qu’une personne ne considère jamais sa demande comme suffisamment clarifiée.

Lorsqu’une tâche est accomplie, le système doit pouvoir s’arrêter.

Le résultat est sauvegardé ou délibérément rejeté. Les points en suspens restent visibles. Les autorisations temporaires expirent. Les connexions sont fermées. La personne peut ensuite partir.

Aucune tâche suivante produite automatiquement.

Aucun flux infini de possibilités supplémentaires.

Aucune notification uniquement destinée à améliorer un indicateur de retour quotidien.

Cela ne signifie pas que les personnes ne doivent utiliser FlameP qu’une seule fois. La vie apporte constamment de nouvelles tâches, de nouveaux textes, de nouvelles décisions et de nouveaux projets. Nous devons être assez utiles pour que les personnes reviennent de leur propre initiative.

Mais l’ancienne tâche doit pouvoir prendre fin.

FlameP ne veut pas que les personnes restent plus longtemps. FlameP doit les aider à mieux avancer. Le Product Integrity Contract traduit déjà cette exigence dans les objets et indicateurs de produit prévus, notamment l’achèvement des tâches, le délai avant la clarté, les parcours fermés et la reprise délibérément choisie.

À certains égards, il serait probablement plus facile économiquement de prolonger artificiellement l’utilisation.

Nous le savons.

Mais tout ce qui améliore un indicateur n’améliore pas nécessairement l’entreprise que nous voulons bâtir.

6. Le flux de valeur avant l’extraction

La dimension sociale de FlameP ne commence pas par un don ultérieur.

Elle commence par la question de savoir comment la valeur est créée et répartie.

Si FlameP rend du temps à une personne, c’est de la valeur.

Si son contexte reste sous son contrôle, c’est de la valeur.

Si quelqu’un accède à des informations dans sa propre langue, c’est de la valeur.

Si le bon travail est rémunéré équitablement, c’est de la valeur.

Si des processus clairs permettent à une entreprise de prendre de meilleures décisions, c’est de la valeur économique.

Et si FlameP en tire des revenus, une valeur financière est créée.

Une partie est nécessaire à l’exploitation, au développement, à la sécurité et aux réserves. Sans cette base, tout engagement social à long terme manquerait de sérieux.

Mais la valeur créée ne doit pas aboutir intégralement chez FlameP, chez les modèles connectés, chez les entreprises d’infrastructure et, peut-être un jour, chez les investisseurs.

UN Trade and Development met en garde contre une forte concentration des infrastructures, des compétences et des bénéfices économiques de l’intelligence artificielle entre les mains de quelques entreprises et pays. L’organisation réclame donc une approche répartissant plus largement l’accès, les données, les infrastructures et les compétences. [5]

Il n’en découle pour FlameP aucune promesse générale de donner un pourcentage arbitraire.

Une telle phrase serait vite écrite. Pour le moment, elle ne serait pas solide.

Nous voulons établir un cycle de valeur traçable. Il doit distinguer si un montant a seulement été calculé, réservé en interne, fermement promis, effectivement versé ou confirmé par un justificatif. Réservé ne signifie pas versé. Promis ne constitue pas encore un effet confirmé.

Cela ressemble certes un peu à de la comptabilité plutôt qu’à une grande vision. Tant mieux.

La responsabilité sociale ne devient pas plus crédible lorsqu’elle est formulée avec davantage d’émotion. Elle le devient lorsque quelqu’un peut vérifier ce qui s’est réellement passé.

7. La dimension sociale traverse toute l’entreprise

Le Guatemala constitue pour nous un test concret. Mais il ne représente pas toute la dimension sociale de FlameP.

La dimension sociale réside déjà dans la manière dont nous traitons les utilisateurs.

Dans le fait de respecter ou non leur contexte comme leur propriété.

Dans le fait de leur rendre ou non leur temps.

Dans le fait de rendre ou non les décisions traçables.

Dans le fait de prendre ou non en considération les langues et les réalités de vie qui n’intéressent pas économiquement les grands fournisseurs.

Dans le fait que les personnes participent aux applications ou ne servent que de source de données et de groupe test.

Dans le fait de ne revendiquer un effet que lorsqu’il est prouvé.

Dans le fait de ne pas construire une fonction, malgré sa promesse de croissance, parce qu’elle retient inutilement les personnes ou les prive de leur autonomie.

Au Guatemala, cela devient plus concret. Nous y voyons à quel point la langue, l’éducation, le revenu et l’accès déterminent si la technologie renforce les personnes ou les exclut.

Une application dans une langue locale ne résout pas la pauvreté. Elle ne remplace pas les soins médicaux et ne crée pas automatiquement l’autonomie économique.

Mais elle peut réduire une dépendance sur un point concret.

Ce n’est certes pas le salut du monde.

Mais ce n’est pas rien non plus.

L’essentiel est que les personnes sur place ne deviennent pas le décor d’un récit européen sur les effets produits. Elles doivent participer aux décisions concernant ce qui est nécessaire, ce qui est compréhensible et où se situent les limites. C’est précisément ce que notre fondement personnel retient comme critère d’évaluation.

8. Nous ne prétendons pas avoir déjà réussi

FlameP est en cours de construction.

Certaines parties existent. D’autres sont définies conceptuellement. Certaines doivent encore être mises en œuvre, testées et vérifiées dans un usage réel.

Cela vaut également pour nos ambitions sociales et économiques.

Un manifeste n’est pas une preuve.

Un contrat n’est pas un produit fonctionnel.

Un contrôle technique prévu n’est pas encore un contrôle démontré.

Un effet prévu n’est pas encore un effet produit.

C’est précisément pourquoi nous distinguons la posture, le concept, la mise en œuvre et la fonction démontrable. Le Product Integrity Contract énonce le principe selon lequel FlameP ne peut promettre que ce que le système est réellement capable d’assurer.

Cela rend parfois la communication moins spectaculaire.

C’est ainsi.

La crédibilité ne naît pas du fait de parler de l’avenir en termes particulièrement grandioses. Elle naît lorsque nous disons clairement ce qui fonctionne déjà et ce qui ne fonctionne pas encore.

9. À l’aune de quoi nous voulons évaluer FlameP

Bien entendu, nous mesurerons le nombre d’utilisateurs et le chiffre d’affaires. Agir autrement serait faire preuve d’aveuglement entrepreneurial.

Mais ces chiffres ne doivent pas décider à eux seuls de la réussite de FlameP.

Nous voulons également savoir si les personnes ont pu accomplir utilement leurs tâches. Si elles sont parvenues plus rapidement à une décision claire. Si moins de contexte a été transmis que ce qui aurait été techniquement possible. Si une connexion a été proprement terminée. Si du temps a été rendu. Si la valeur sociale est réellement parvenue à destination ou n’a existé que dans une présentation.

Nous voulons que la réussite économique et la responsabilité sociale se contrôlent mutuellement.

L’entreprise doit être suffisamment solide pour que la protection, le développement et les programmes sociaux ne dépendent pas du hasard.

La responsabilité sociale doit être suffisamment forte pour que l’entreprise ne finisse pas un jour par ne plus servir qu’elle-même.

Nous commettrons probablement des erreurs. Non, nous en commettrons certainement.

L’essentiel est de savoir si nous les reconnaissons comme des écarts ou si nous finissons par les déclarer comme la nouvelle normalité.

10. Conclusion : notre engagement en tant que fondateurs

Nous ne voulons pas bâtir une entreprise qui se place moralement au-dessus des autres.

FlameP connaîtra les mêmes tentations économiques que les autres entreprises technologiques. Davantage de données peuvent améliorer les résultats. Davantage d’utilisation peut augmenter le chiffre d’affaires. Des promesses plus ambitieuses peuvent attirer l’attention. Il est plus facile de corriger plus tard que de dire non aujourd’hui.

Les bonnes intentions ne suffisent donc pas.

Nous avons besoin de règles, de preuves et de limites.

Et nous devons être disposés à les défendre même lorsqu’elles deviennent gênantes.

Nous voulons construire FlameP de manière que les personnes n’aient pas à croire en nous, mais puissent vérifier nos décisions.

Nous ne voulons pas opposer la réussite économique à la responsabilité sociale.

Nous ne voulons pas masquer des fonctions manquantes par de grands mots.

Et nous voulons conserver le courage de ne pas construire une fonction lorsque sa véritable valeur consiste à retenir les personnes plus longtemps, à recueillir davantage d’informations sur elles ou à leur retirer une décision qui devrait leur appartenir.

Nous ne voulons justement pas bâtir une entreprise qui transforme les êtres humains en matière première.

Nous voulons en bâtir une qui soulage les personnes de certaines tâches sans leur prendre en échange leur temps, leur contexte, leur jugement ni leur part de la valeur créée.

C’est à cette aune que FlameP doit être évaluée.

Pas à l’aune de cet article.

À l’aune de l’entreprise qui en naîtra.