Depuis quelques semaines, StiftungSchweiz utilise des assistants IA et prend une mesure audacieuse : nous publions tous nos rulebooks de manière transparente. Vous découvrirez dans cet article pourquoi nous le faisons et quelles sont les considérations éthiques qui se cachent derrière.
L’utilisation de l’intelligence artificielle (IA) dans le domaine philanthropique présente de nombreuses opportunités, mais aussi quelques défis. Depuis quelques semaines, StiftungSchweiz a embarqué quelques assistants IA intelligents. Ceux-ci doivent être utilisés de manière responsable et judicieuse, la sécurité et la transparence étant des priorités absolues. Tous les développements ont lieu sur Peakprivacy.ch, la plateforme d’IA sécurisée de Suisse.
L’éthique en point de mire
Comment faire vivre un algorithme de manière simple et compréhensible ? La clé est le rulebook. Lorsque nous développons des outils d’IA, nous écrivons les règles qui régissent l’IA dans un tel rulebook. D’un point de vue technique, une IA implémentée de façon permanente sur une plateforme n’est pas un simple prompt de chat comme GPT, mais des systèmes plus complexes, comme les RAG (modèles de génération augmentée de récupération) ou les réseaux d’agents. C’est pourquoi nos ingénieurs divisent le rulebook en petits morceaux digestes, afin d’obtenir un système stable qui répond toujours de manière similaire à la même question.
Le rulebook est en quelque sorte la recette d’un assistant IA et constitue une propriété intellectuelle précieuse. Outre la sophistication technique, il contient également des connaissances approfondies en matière de philanthropie, que nous utilisons par exemple dans le domaine du conseil. Néanmoins, nous avons décidé de publier nos rulebooks de manière transparente. En effet, StiftungSchweiz s’engage pour une philanthropie transparente, et non pour une boîte noire dans laquelle des algorithmes prennent des décisions de manière mystérieuse.
Rulebooks : commentaires bienvenus
Mais que peut faire l’IA sur stiftungschweiz.ch ? Notre générateur de lettres d’accompagnement conçoit une lettre prête à imprimer qui fait habilement le lien entre votre projet et l’organisme de financement sollicité. Le rulebook vous montre que ce n’est pas sorcier, car les lettres d’accompagnement sont des types de textes très formalisés qui doivent être structurés de manière précise et correcte – c’est la brièveté qui fait la force.
L’évaluation de projet applique les meilleures pratiques dans la description d’un projet, elle analyse le portrait de votre projet et vous signale de manière ciblée les lacunes ou les potentiels d’optimisation. Qu’est-ce qu’un objectif intelligent ? L’impact recherché fait-il référence aux problématiques de notre époque ? Les groupes cibles sont-ils suffisamment précis ? Nous trouvons d’ailleurs que le jugement de l’assistant est encore un peu sévère – dans la prochaine version, nous le motiverons un peu plus, le nouveau rulebook est déjà en cours d’élaboration.
Assistant, non autonome
La prise de décision algorithmique soulève des questions éthiques essentielles. L’un des plus grands défis est de s’assurer que les algorithmes sont équitables et impartiaux. Les risques liés aux algorithmes non publiés sont considérables : ils peuvent prendre des décisions qui sont opaques et difficiles à comprendre pour les personnes concernées. En publiant nos rulebooks, nous souhaitons lutter contre ce phénomène et promouvoir une prise de décision juste et équitable.
Nous avons éveillé votre intérêt ? Jetez un coup d’œil aux rulebooks publiés jusqu’à présent (il y en a de plus en plus) et partagez votre avis avec nous. En parlant de manière ouverte et transparente des algorithmes utilisés, nous nous engageons à promouvoir une utilisation responsable et éthique de l’IA dans la philanthropie. En effet, ce n’est que par la transparence et la collaboration que nous pourrons exploiter pleinement le potentiel de l’IA tout en veillant à ce qu’elle soit utilisée pour le bien de la société.
Bootcamps : l’IA dans la philanthropie
StiftungSchweiz souhaite parler ouvertement des algorithmes que nous utilisons sur la plateforme. Nous faisons cela pour gagner et conserver la confiance de nos utilisateurs. Parallèlement, nous souhaitons former le plus grand nombre possible d’acteurs informés, conscients du potentiel et des risques liés à cette nouvelle technologie.
Dans le cadre de deux Bootcamps destinés aux groupes cibles des Nonprofits (organisations à but non lucratif) et des Funders (organismes de financement), respectivement mi-juin et début septembre, nous vous invitons à une réflexion condensée sur l’IA et la philanthropie. Quelle est la part d’air chaud dans le débat omniprésent sur l’IA et où les règles du jeu changent-elles réellement ? C’est à ce genre de questions que notre bootcamp compact apporte des réponses claires et éprouvées.
