SaaS
Nous hébergeons la console de pilotage. Créez un compte et connectez votre premier nœud en quelques minutes.
- Aucune infrastructure de pilotage à maintenir
- Plusieurs espaces de travail par compte
- Inscription en libre-service
LLM auto-hébergés · pilotage centralisé
Vos modèles d'IA, sur vos machines.
Shiro pilote des LLM sur vos propres serveurs : un agent léger s'installe en une commande, analyse le matériel, recommande les modèles adaptés et les déploie. Les prompts, les réponses et les documents restent chez vous.
Connexion sortante uniquement · aucun port entrant à ouvrir
curl -fsSL https://<votre-plateforme>/i/<jeton> | sudo bashVérification de l'empreinte SHA-256 de l'agent… okService platform-agent installé et démarréNœud enrôlé : en ligneLa promesse
L'IA générative, sans céder vos données
Faire tourner un modèle open source sur son propre serveur est devenu possible. Le difficile, c'est tout le reste : choisir un modèle qui tient dans la mémoire, l'installer, le surveiller, le relancer. Shiro s'occupe de cette partie, sans jamais voir vos contenus.
Vos contenus ne transitent pas par nous
Seuls les métriques, statuts, logs techniques et compteurs remontent à la plateforme. Les prompts, réponses et documents restent sur vos machines.
Le bon modèle pour le bon matériel
La recommandation part de l'inventaire réel du nœud : mémoire nécessaire, vitesse estimée et niveau de compatibilité pour chaque modèle.
Vos modèles continuent de répondre
Les déploiements tournent sur vos serveurs : ils restent disponibles même si la plateforme est momentanément injoignable.
Comment ça marche
Trois étapes, de la machine nue au modèle en service
- 01
Installez l'agent
Copiez la commande générée pour votre espace et lancez-la sur un serveur Linux. L'agent s'enregistre comme service système et se connecte à la plateforme.
- 02
Choisissez un modèle
Le nœud remonte son inventaire (CPU, RAM, disque, GPU). Shiro classe les modèles du catalogue selon ce que la machine peut réellement faire tourner.
- 03
Déployez et utilisez
Un clic lance le modèle avec llama.cpp ou Ollama. Suivez les logs en direct, mesurez les performances réelles et testez-le dans le playground.
Commande d'installation (illustrative)
curl -fsSL https://<votre-plateforme>/i/<jeton> | sudo bashLe jeton est propre à votre espace et à durée limitée ; l'adresse est celle de votre plateforme.
Fonctionnalités
Tout le cycle de vie d'un modèle, depuis une seule console
Disponible aujourd'hui sur des serveurs Linux, en CPU.
Inventaire et métriques
Matériel détecté automatiquement et graphiques CPU, RAM, disque et GPU par nœud, mis à jour en continu.
Recommandation de modèles
Mémoire nécessaire, vitesse estimée et compatibilité calculées pour chaque modèle du catalogue, sur la machine visée.
Déploiement llama.cpp et Ollama
Démarrer, arrêter, redémarrer, supprimer : le cycle de vie complet d'un déploiement, avec son statut en temps réel.
Logs en direct
Suivez la sortie du moteur pendant le téléchargement, le chargement et le service du modèle.
Benchmark réel
Mesurez les performances effectives du modèle sur votre matériel plutôt que de vous fier à une estimation.
Playground de chat
Testez un modèle déployé depuis le navigateur. Les échanges passent par le tunnel de l'agent et ne sont pas stockés.
Espaces et rôles
Espaces de travail par organisation, rôles lecteur, opérateur, admin et owner, invitations par email.
2FA et journal d'audit
Double authentification par application TOTP et journal des actions sensibles de chaque espace.
Une compatibilité lisible avant de déployer
- ConfortableLe modèle tient largement dans la mémoire disponible.
- JusteIl tient, mais avec peu de marge : à surveiller.
- ImpossibleLa machine n'a pas assez de mémoire pour ce modèle.
Sécurité et confidentialité
Conçu pour que vos données n'aient pas besoin de nous
La séparation entre la plateforme de pilotage et vos contenus est un choix d'architecture, pas une option.
Lire le modèle de sécurité- L'agent ouvre une connexion sortante chiffrée (TLS) : aucun port entrant sur vos serveurs.
- L'agent n'exécute que les commandes prévues par son protocole, jamais de commande shell arbitraire.
- Prompts, réponses et documents ne sont ni transmis ni stockés par la plateforme.
- Secrets chiffrés au repos, clés stockées sous forme hachée.
- Isolation stricte entre espaces de travail, vérifiée par des tests automatisés.
- Journal d'audit, double authentification et verrouillage après échecs de connexion.
Deux façons de l'utiliser
En SaaS ou entièrement chez vous
Le même logiciel, dans les deux cas. Vos modèles tournent toujours sur vos machines ; seule la console de pilotage change d'endroit.
Auto-hébergé
Installez la plateforme complète sur votre infrastructure avec docker compose, guidé par un assistant de premier lancement.
- Aucune télémétrie, aucune donnée envoyée à l'éditeur
- Aucune dépendance à nos services, fonctionne hors ligne
- Binaires d'agent et catalogue de modèles servis par votre instance
- Clé de licence vérifiée hors ligne
Feuille de route
Ce qui arrive ensuite
Ces fonctionnalités sont en préparation et ne sont pas encore disponibles.
- Bientôt
Passerelle compatible OpenAI
Exposez vos modèles via une API compatible OpenAI, avec clés API, quotas et domaines TLS.
- Bientôt
RAG sur vos documents
Ingestion de documents, base vectorielle Qdrant et réponses avec citations, sur vos machines.
- Bientôt
GPU et nouvelles plateformes
GPU NVIDIA avec vLLM, macOS Apple Silicon et Windows.
- Bientôt
Alertes
Notifications par email et webhook quand un nœud ou un déploiement change d'état.
FAQ
Questions fréquentes
Mes prompts et mes documents passent-ils par Shiro ?
Non. Seuls les métriques, statuts, logs techniques et compteurs remontent à la plateforme. Le playground de chat passe par le tunnel de l'agent pour atteindre votre modèle, sans que les échanges soient stockés.
Faut-il ouvrir un port sur mon serveur ?
Non. L'agent initie lui-même une connexion sortante chiffrée vers la plateforme ; aucun port entrant n'est nécessaire.
Quelles machines sont prises en charge ?
Aujourd'hui, les serveurs Linux, avec des modèles exécutés en CPU via llama.cpp ou Ollama. Les GPU NVIDIA (vLLM), macOS Apple Silicon et Windows sont prévus.
Que se passe-t-il si la plateforme est indisponible ?
Vos modèles continuent de tourner et de répondre sur vos machines. Seuls le pilotage et la supervision sont interrompus le temps de la coupure.
Puis-je installer Shiro entièrement chez moi ?
Oui. La version auto-hébergée s'installe avec docker compose, sans télémétrie ni dépendance à nos services ; la clé de licence est vérifiée hors ligne.
L'agent peut-il exécuter n'importe quelle commande sur ma machine ?
Non. Il n'exécute que les types de commande définis par son protocole (déployer, arrêter, mesurer…), jamais une commande shell arbitraire envoyée par la plateforme.
Mettez votre premier modèle en service
Créez un espace, installez l'agent sur un serveur Linux et laissez Shiro recommander le modèle adapté.