Personne ne pensait jusqu’à récemment qu’un navigateur Web pouvait intégrer un grand modèle de langage. Opera a révolutionné le secteur avec la version d’Opera One destinée aux développeurs, Opera One Developer. Cet instrument, encore en phase expérimentale, embarque plus d’une cent cinquantaine de LLM signés Mistral AI, Google ou encore Meta.
Opera expérimente actuellement dans le cadre du projet AI Feature Drops un navigateur inédit baptisé Opera One Developer. Adressé aux développeurs, ce dernier représente le premier programme de ce type à embarquer de grands modèles de langage (LLM). Il comporte concrètement un support expérimental d’environ 150 versions de LLM issues de pratiquement 50 familles. L’on citera par exemple Mixtral Gemma, Llama…
Les programmeurs peuvent de ce fait utiliser ces solutions d’intelligence artificielle et les gérer localement, directement à l’aide du navigateur. Le choix des LLM locaux s’explique par une volonté de prioriser la confidentialité et la protection des données. Pour information, les navigateurs s’appuient généralement sur des modèles sur serveurs.
Son fonctionnement nécessite une machine très puissante
L’intégration des quelque 150 versions locales de grands modèles de langages présente un grand avantage. Elle assure la proposition d’une immense variété et d’une richesse pour s’adapter aux besoins des programmeurs. Ces outils d’IA reposent cependant sur des réseaux neuronaux sophistiqués. Ils ont par conséquent besoin d’une grosse puissance de calcul pour tourner convenablement. Il s’avère essentiel de détenir une puissance de calcul dépassant un certain seuil, spécifiquement optimisée dans l’idéal. Ceci afin d’assurer un fonctionnement optimal de ces solutions. L’on peut l’obtenir au moyen de l’adjonction :
- D’espaces de stockage ;
- De mémoire ;
- De processeur graphique.
Les grands modèles de langage locaux peuvent être personnalisés afin de s’adapter aux besoins particuliers des usagers. Ils confèrent en conséquence une expérience plus efficace et appropriée. Ces solutions d’IA permettent aussi une adaptation de l’exploitation de l’intelligence artificielle aux besoins des programmeurs. Elles sont en mesure de les assister dans l’analyse de textes, la traduction, la rédaction… Ces instruments sont, de surcroît, capables de marcher en l’absence de connexion Internet. Ils peuvent ainsi être d’une grande aide dans les cas d’indisponibilité ou de restriction de la connectivité.
Opera One Developer pourrait intéresser certains programmeurs en portage salarial, une forme d’emploi permettant aux indépendants de déléguer certains aspects de leur activité à leur entreprise d’affiliation moyennant paiement mensuel. Le calcul frais de gestion s’effectue à ce titre selon les éléments librement fixés par la société.
Le traitement des instructions se fait directement sur l’ordinateur
Le grand modèle de langage local remplacera le navigateur natif d’Opera AI, Aria. Ceci jusqu’à la réactivation de ce dernier ou en attendant que le chat soit redémarré avec ce programme. En sélectionnant un LLM, celui-ci sera téléchargé dans le PC de l’usager. Chaque grand modèle de langage requiert une capacité de stockage local comprise entre 2 Go et 10 Go. À souligner qu’un grand modèle de langage local peut se montrer moins rapide qu’une variante sur serveur. La différence s’avère énorme parce que la vitesse varie en fonction de la puissance de calcul de l’appareil.
Les grands modèles de langage locaux s’occupent des requêtes directement sur l’ordinateur. Aucune donnée n’est donc envoyée à l’extérieur de l’appareil. Cette particularité pourrait plaire aux développeurs et organisations recherchant de la confidentialité. La possibilité de travailler avec les données sensibles localement procure un avantage compétitif considérable alors que :
- Les exigences réglementaires se renforcent en continu ;
- Les attaques informatiques deviennent de plus en plus fréquentes.
Cette capacité peut certes provoquer le ralentissement du navigateur, mais elle s’assortit d’un bénéfice insoupçonné sur le plan de la sécurité.
