Anthropic Python SDK v0.104.0: soporte para conteo de tokens en bloques de pensamiento
Anthropic ha lanzado la versión 0.104.0 de su SDK de Python con una nueva funcionalidad en fase beta que permite estimar tokens en bloques de pensamiento durante streaming. Esta mejora facilita un mejor control y monitoreo del uso de recursos al trabajar con modelos de Claude.
El SDK de Python de Anthropic alcanza la versión 0.104.0 con una característica orientada a desarrolladores que implementan soluciones con Claude: el soporte para thinking-token-count en modo beta.
La nueva funcionalidad permite obtener un conteo estimado de tokens utilizados en los bloques de pensamiento cuando se utiliza streaming de respuestas. Esto significa que durante la transmisión de datos, los desarrolladores podrán monitorear cuántos tokens consume la fase de razonamiento interno del modelo, información valiosa para optimizar costos y rendimiento.
Por qué te importa si trabajas con SAP
Si integras Claude con SAP para análisis de datos, automatización de procesos o consultas complejas que requieren razonamiento profundo, conocer el consumo de tokens en tiempo real es crítico. Esta visibilidad permite ajustar consultas, tamaño de contexto y estrategias de llamadas a la API para maximizar eficiencia en entornos empresariales donde cada token tiene un costo asociado.
¿Te ha resultado útil esta noticia?
Fuente original
Leer artículo original