Innover avec Large Langage Models : Hackathon LLM de Smile

Smile a toujours été un fervent défenseur de l'innovation et a embrassé le potentiel de la technologie pour transformer notre façon de travailler. Dans cet esprit, nous avons récemment entrepris une exploration et une utilisation des grands modèles de langage (LLMs). Ces modèles alimentés par l'IA, capables de comprendre et de générer du texte semblable à celui des humains, promettent de révolutionner divers secteurs et domaines, faisant d'eux une frontière intrigante pour l'innovation. Pour favoriser ce potentiel, Smile a organisé un hackathon de deux jours, les 11 et 12 mai, centré sur les applications créatives des LLMs.

Le Hackathon LLM était un événement décentralisé, où les participants pouvaient se joindre à distance ou dans une agence Smile. Notre objectif était de creuser plus loin que le battage médiatique autour des LLMs, tels que ChatGPT, LLaMA, Midjourney, Dall-E 2 ou Gen-2, et de découvrir comment ces modèles d'IA peuvent augmenter notre travail quotidien. Nous avons encouragé nos équipes à explorer des applications respectueuses de la vie privée et à décider des meilleures méthodes de déploiement pour les modèles - des API publiques aux instances privées connectées à l'intelligence d'affaires.

Des équipes de trois à cinq personnes ont collaboré pendant deux jours, choisissant parmi une gamme de sujets, comprenant la création de fonctionnalités semblables à GitHub Copilot pour l'intégration des membres du projet, l'exploitation des capacités des LLMs pour l'automatisation domestique, l'amélioration des flux de travail des développeurs et la construction d'assistants semblables à ChatGPT pour les ventes. Notre objectif n'était pas seulement de créer des solutions techniquement impressionnantes, mais de trouver des applications innovantes et de fournir des expériences conviviales pour l'utilisateur.

Les participants ont également bénéficié de ressources provenant des environnements Azure et OpenAI fournies par Smile. Nous avons choisi Azure en raison de ses solides garanties concernant la protection de données et de sa licence exclusive qu’ils possèdent pour exécuter des instances privées de modèles OpenAI.

Chiffres clés

Projets

PIM-GPT

L'idée de ce projet est de générer des descriptions de produits en parcourant Internet à la recherche de descriptions de produits similaires, puis de demander à GPT de faire un résumé basé sur plusieurs descriptions de produits et de permettre à l'utilisateur final de télécharger un fichier CSV pratique avec le titre - descriptions de produits.

Gally-GPT

Ici, nous exploitons la puissance du GPT pour proposer un assistant shopping personnel à qui nous pouvons présenter une situation (par exemple, "Je vais faire de l'escalade le week-end prochain") et qui traduira cela en une requête pour le moteur de searchandising de Gally afin de suggérer des produits. Mais ça ne s'arrête pas là, car il est possible de continuer la recherche de manière conversationnelle pour l'affiner.

Readme AI generator

Ce projet permet de scanner un dépôt de code (uniquement GitLab pour le moment) et de générer une documentation pour permettre à un nouveau collaborateur de comprendre plus facilement le projet. Il fournit des explications sur ce qu'un fichier particulier fait et ce qu'il contient, ainsi que sur la manière dont il interagit avec le reste du code.
Dès le début, l'équipe a intégré les contraintes financières liées à l'utilisation de GPT afin de pouvoir suivre et optimiser les coûts.

Smile Knowledge Bot

Ce projet vise à indexer le savoir, au sens le plus large, chez Smile. Que ce soit dans un wiki, sur un Google Site ou dans des documents sur un espace de stockage réseau.
L'un des premiers défis auxquels l'équipe a été confrontée était la collecte d'informations. En effet, le choix des Google Sites a enfermé les informations et les connaissances dans des espaces inaccessibles par les API et que nous protégeons derrière une authentification de groupe.
Une fois ce contenu indexé, il est possible de solliciter un bot disponible dans notre groupe Google Chat, qui fournit des réponses et des références aux documents.

Neo, your sales bot

L'objectif annoncé de cette solution est de fournir un assistant aux commerciaux, leur permettant d'interroger le CRM, ou d'autres sources de données, en langage naturel (et potentiellement de manière vocale) ; ainsi que de les préparer pour des entretiens clients en leur permettant de visualiser des "questions pièges" adaptées au contexte du client qu'ils vont rencontrer.

Conclusion

Alors que le rideau tombait sur notre Hackathon LLM, nous avons été frappés de la capacité de la technologie à autonomiser les employés dans diverses capacités et rôles. Il était évident que, malgré le potentiel immense du paysage technologique actuel, il subsiste un vide en termes d'outils pratiques que nos employés peuvent utiliser pour améliorer leur efficacité et leur productivité.

Bien qu'il puisse être tentant de s'adresser principalement aux développeurs, le hackathon a renforcé l'importance d'élargir notre intérêt. Les employés, dans le sens le plus large, sont la colonne vertébrale de notre entreprise. Par conséquent, la création de solutions inclusives bénéfiques à tous est primordiale. Par exemple, la centralisation des connaissances éparpillées dans une base de données facilement consultable peut révolutionner notre manière de récupérer l'information, diminuer la dépendance envers les fonctions de support et les managers, et améliorer l'autonomie dans nos bureaux à l'échelle mondiale.

En parallèle, il y a une grande opportunité d'améliorer les outils disponibles pour nos équipes de vente. Améliorer l'accès aux données des clients et rationaliser le processus d'identification des besoins des clients, trouver des références et apprendre des expériences passées peuvent considérablement améliorer nos interactions avec les clients. Les outils assistés par IA qui automatisent la correspondance ne sont que la pointe de l'iceberg, et nous sommes impatients d'explorer comment ces technologies peuvent répondre aux défis énoncés ci-dessus.

Pour nos développeurs, le hackathon a été un témoignage de l'abondance d'outils et d'opportunités qui peuvent augmenter (au sens du travailleur augmenté par la technologie) leurs compétences et leur efficacité. En commençant par des solutions très immédiates comme le Copilot de GitHub ou le Code Whisperer d'Amazon, nous envisageons une galaxie d'outils qui peuvent aider à la documentation, aux tests, ou à l'explication de code. Ceux-ci peuvent ensuite être intégrés à nos pipelines d'intégration continue et de livraison continue (CI/CD), améliorant ainsi notre processus de développement dans son ensemble.

Les possibilités offertes par les LLMs sont réelles et concrètes, transformant la façon dont les gens travailleront, et nous sommes loin de la pensée “vœux pieux” que peuvent avoir été les NFTs et les cas d'utilisation autour de la Blockchain.

Nous sommes incroyablement fiers de tous les participants pour leur travail acharné, leur dévouement et leurs idées innovantes. Leurs efforts ont repoussé les limites de ce que nous pensions possible et nous ont donné un aperçu de l'avenir de l'IA dans le monde des affaires. Cet événement est un témoignage de l'engagement de Smile à favoriser l'innovation et à rester à la pointe des avancées technologiques. Nous avons hâte de voir l'évolution continue de ces projets et les transformations potentielles qu'ils pourraient apporter à notre entreprise et au-delà.

En conclusion, le hackathon a été une plateforme fructueuse pour nous permettre de mieux comprendre nos besoins technologiques et d'explorer des moyens de combler les lacunes. Nous restons déterminés à utiliser l'IA pour autonomiser nos employés et suivons avec impatience les progrès passionnants que cet engagement apportera.