Cloudflare Agents - Construisez facilement des agents IA intelligents

"Dans un monde où l'IA évolue à une vitesse fulgurante, Cloudflare Agents se distingue comme une plateforme révolutionnaire pour construire des agents IA autonomes et intelligents. Mais qu'est-ce que cela signifie réellement pour les développeurs et les entreprises ? Plongeons dans les détails."

Cloudflare Agents est une plateforme conçue pour permettre la création d'agents IA autonomes, capables de raisonnement dirigé par des objectifs et de prise de décision adaptative. Contrairement aux modèles génératifs traditionnels qui répondent passivement aux prompts, les agents IA sur Cloudflare planifient, itèrent et interagissent activement avec leur environnement pour atteindre des objectifs complexes.

Pourquoi choisir Cloudflare Agents ?

🛠️ Une suite de produits complète

Cloudflare offre une suite étendue de produits qui vous permet de construire des agents IA entièrement sur une seule plateforme. Voici comment cela fonctionne :

1. Obtenir l'entrée utilisateur : Que ce soit par e-mail, chat ou voix, Cloudflare vous aide à recevoir l'entrée utilisateur sous la forme que vous préférez.
2. Interroger l'IA : Pour planifier et raisonner sur la prochaine action, ou pour générer du contenu, l'agent doit se connecter à un modèle de langage (LLM). Vous pouvez utiliser un LLM directement sur Cloudflare ou vous connecter à des fournisseurs populaires via AI Gateway.
3. Garantir l'exécution : Pour s'assurer que toutes les étapes sont exécutées, l'agent a besoin d'un moteur d'exécution qui combine état et calcul. Parfois, il est nécessaire de revenir au LLM pour réévaluer le plan en fonction de nouvelles variables, et Cloudflare supporte cela également.
4. Prendre des mesures : Enfin, l'agent a besoin d'accéder à des outils pour accomplir les tâches. Ces outils fournissent une manière structurée pour les agents et les workflows d'invoquer des API, manipuler des données et s'intégrer avec des systèmes externes.

💰 Coût réduit

L'inférence est difficile à prédire et souvent sporadique, contrairement à l'entraînement. L'utilisation moyenne des GPU est seulement de 20 à 40 %, avec un tiers des organisations utilisant moins de 15 %. Workers AI permet aux clients d'économiser en ne payant que pour l'utilisation. Pas de devinettes ni d'engagement sur du matériel inutilisé.

Temps d'horloge vs temps CPU

Avec Cloudflare Workers, vous ne payez que pour le temps réellement passé à exécuter une tâche, par opposition au temps d'attente sur les I/O. Lorsqu'il s'agit d'agents, votre agent peut souvent être bloqué sur des ressources externes hors de votre contrôle, qu'il s'agisse d'une API lente, d'un LLM ou d'un humain dans la boucle.

Hibernation WebSocket

De nombreux agents dépendent des WebSockets pour la communication, qui nécessitent des connexions de longue durée. Avec l'hibernation WebSocket intégrée dans Durable Objects, lorsqu'il n'y a pas d'activité, l'objet durable peut s'arrêter tout en maintenant la connexion, ce qui entraîne des économies de coûts pour vous.

🧑‍💻 Exemple de code

Voici un exemple simple d'un agent qui aide à choisir le déjeuner pour des collègues dans un bureau :

import { Agent, unstable_callable as callable } from 'agents';
import { searchMenusByAgent, chooseWinners } from '../utils';

export class LunchAgent extends Agent<Env, LunchState> {
	onStart() {
		this.schedule('weekdays at 11:30pm', 'chooseLunch');
		this.schedule('daily at 5pm', 'resetLunch');
	}

	@callable()
	async nominateRestaurant(restaurantName: string) {
		// Utilise un outil de recherche pour trouver des informations sur le restaurant
		// Trouve le menu et le stocke dans Vectorize
		// En cas de succès, met à jour l'état de l'agent avec les restaurants disponibles
		await this.env.RESTAURANT_RESEARCHER_WORKFLOW.create({
			restaurantName,
			agent: this.name,
			near: this.state.officeAddress,
		});
	}

	@callable()
	async searchRestaurants(query: string) {
		// Utilise les résultats du magasin Vector filtrés par Métadonnées limitées
		// À cet agent
		const results = await searchMenusByAgent(query, this.name);
		return results.map((result) => result.metadata.restaurantName);
	}

	@callable()
	async vote(username: string, restaurantName: string) {
		const votes = this.state.todaysVotes;
		votes.push({
			username,
			restaurantName,
		});
		// Envoie une mise à jour à tous les mangeurs connectés
		this.setState({
			...this.state,
			todaysVotes: votes,
		});
	}

	async resetLunch() {
		const state = this.state;
		state.todaysVotes = [];
		state.todaysRuling = undefined;
		this.setState(state);
	}

	async chooseLunch() {
		const restaurantWinners = chooseWinners(this.state.todaysVotes);
		const { response } = await this.env.AI.run("@cf/meta/llama-3.3-70b-instruct-fp8-fast", {
			messages: [
				{role: "system", content: `
					Vous aidez à livrer des résultats à un groupe de collègues qui choisissent ensemble le déjeuner.
					L'utilisateur va vous fournir les options.
					Votre tâche est de rendre le choix excitant pour que les personnes qui ont voté pour autre chose se sentent validées.
					`},
				{role: "user", content: restaurantWinners?.join(", ") as string}
			],
		});
		this.setState({
			...this.state,
			todaysRuling: response
		})
	}
}

Conclusion

Cloudflare Agents est une plateforme puissante pour construire des agents IA autonomes et intelligents. Avec une suite de produits complète, des coûts réduits et une intégration facile, elle offre tout ce dont vous avez besoin pour développer des solutions IA innovantes. Que vous soyez un développeur expérimenté ou que vous débutiez dans le domaine de l'IA, Cloudflare Agents est conçu pour vous aider à réussir.

Prêt à explorer le potentiel des agents IA ? Découvrez Cloudflare Agents dès aujourd'hui et commencez à construire des solutions IA de pointe.