Hola, mi nombre es Francisco Proboste, jefe de Datos e IA en Clay. Quisiera invitarte a dedicar unos minutos a este artículo para compartir cómo Clay está aprovechando las nuevas oportunidades que ofrecen los LLMs y su ecosistema. Con esto, mi intención es fomentar el intercambio de ideas en la comunidad tecnológica chilena (y en quienes quieran sumarse).
Como empresa tecnológica enfocada en ayudar a que nuestros clientes tengan contabilidad y finanzas excepcionales, hemos decidido firmemente recorrer el camino de la inteligencia artificial generativa para mejorar nuestra propuesta de valor y llegar a muchas más personas. Clay nace como una fintech que crea servicios financieros y contables sobre el funcionamiento de web scrappers, por lo que el uso de algoritmos inteligentes y ciertos subcampos de la IA son parte del negocio desde sus inicios.
Sin embargo, dados los umbrales de inteligencia que han alcanzado los LLMs, ahora estamos embarcándonos en un viaje mucho más ambicioso que antes.
Para alinearnos sobre lo que vamos a tratar, partimos con una reseña superficial sobre la IA generativa y qué aspectos de ella estamos utilizando activamente en Clay.
IA Generativa y los Large Languaje Models
La IA generativa es una rama de la inteligencia artificial enfocada en la creación de contenido nuevo, como texto, imágenes, audio y simulaciones, a partir de modelos avanzados que aprenden patrones a partir de grandes volúmenes de datos. Su evolución ha estado marcada por hitos clave en el procesamiento del lenguaje natural (NLP), el auge de distintos enfoques de machine learning desde la década de 2010 y, especialmente, por el desarrollo de arquitecturas avanzadas para la comprensión del lenguaje.
Con el surgimiento de modelos como GPT, BERT y RoBERTa (basándose en el trabajo de la arquitectura de Transformers propuesta por Vaswani et al. en el paper "Attention Is All You Need" en 2017), hubo un avance significativo al capturar relaciones contextuales entre palabras. Posteriormente, modelos como GPT-2, GPT-3 y LLaMA avanzando sobre las mismas ideas, generaron una revolución social e industrial llevando la generación de contenido a un nivel superior, permitiendo no solo la creación fluida de lenguaje, sino también su aplicación en múltiples áreas.
Podríamos decir que estos modelos marcan el inicio del arquetipo de lo que es conocido como Large Language Model (LLM), haciendo referencia a la gran cantidad de datos y recursos que ocupan para elaborarse. Si bien la inteligencia artificial es un campo que se viene desarrollando hace décadas, con grandes hitos ocurridos hace más de 10 años, el momento actual es único porque permite una democratización sin precedentes de esta tecnología y una capacidad todavía no acotada de aplicaciones de negocio ultra-eficientes.
Como muchas otras personas y organizaciones, en Clay creemos que estamos en el momento inicial de grandes avances en la aplicación de la ciencia de la IA sobre la industria y la vida social está comenzando. Nosotros queremos participar de esa construcción.
Capacidades de lenguaje e implicancias en la contabilidad
Los modelos de lenguaje grande, o también referidos como modelos fundacionales referenciados comúnmente como LLMs por su sigla en inglés, han redefinido la capacidad de las máquinas para comprender la semántica y el contexto del lenguaje humano. Su capacidad de analizar grandes volúmenes de texto y capturar relaciones profundas entre palabras ha permitido generar respuestas cada vez más precisas y contextualmente relevantes. Destapar esta habilidad ha logrado generar capacidades como:
Resumir, categorizar, elaborar y detallar conceptos expresados en lenguaje utilizando la memoria que se tiene sobre el corpus sobre el cual fue entrenado.
Entender cualquier tipo de input en lenguaje y desde ahí inferir la “intención” sobre qué input estructurado posible quiere un usuario accionar ("leer entre líneas").
Generar output (estructurado o no) que busque satisfacer la “intención” expresada en el input.
Comprender el humor y emociones contenidas en el lenguaje.
Poder utilizar estas habilidades históricamente ejercidas sólo por humanos, ahora programáticamente dentro del software está en el núcleo de la revolución en curso. En relación a las necesidades de la contabilidad y las finanzas, podemos escalar en la práctica arbitrariamente estas capacidades yendo tan al detalle o tan amplio como se necesite.
Pero a pesar de sus ventajas, el uso de estos modelos en entornos financieros requiere una supervisión rigurosa para mitigar sesgos inherentes y garantizar la fiabilidad de los resultados. Recién estamos aprendiendo cómo usar estas herramientas y cuáles son sus limitaciones por lo que es importante generar softwares seguros a su alrededor.
Por ejemplo, la combinación de modelos generativos con bases de conocimiento estructuradas y enfoques híbridos como la Recuperación de Información Aumentada (RAG) ha surgido como un patrón importante para controlar más precisamente estos poderes.
Construyendo sobre los LLMs: Bases de conocimiento y RAGs
La Recuperación de Información Aumentada (RAG) representa un enfoque híbrido que combina la capacidad de generación de contenido de los modelos de IA con bases de datos específicas, permitiendo respuestas más precisas y contextualizadas. Su implementación en el sector financiero ha marcado un antes y un después en la manera en que se consulta, analiza y utiliza la información contable y económica.
Gracias a la efectiva búsqueda semántica moderna, que es una implicancia directa de la arquitectura de los LLMs, estos modelos pueden interpretar de manera más efectiva el lenguaje natural, revolucionando la manera en que se recupera información relevante dentro grandes volúmenes de datos. No solo podemos generar un lenguaje coherente a un contexto, sino que podemos buscar información según la relevancia de su contenido.
Esta búsqueda logra situar a la IA en los contextos específicos que se necesitan en el momento, logrando mejorar significativamente la asertividad de las interacciones y reducir la posibilidad de errores o alucinaciones en los resultados generados.
En el ámbito contable, la implementación de RAG permite consultar normativas contables en tiempo real, generar informes financieros personalizados y asistir en la interpretación de regulaciones fiscales complejas. Estas capacidades no solo mejoran la eficiencia y precisión en la gestión financiera, sino que también facilitan la toma de decisiones estratégicas basadas en información confiable y actualizada.
Agentes inteligentes y su rol en la industria financiera
Para construir una capa más general y completa, los RAG se emplean como base para desarrollar agentes inteligentes. Estos agentes interactúan dinámicamente con motores de recuperación de información, razonan internamente, planifican pasos estratégicos para alcanzar objetivos —tanto parciales como finales— y utilizan herramientas para interactuar con su entorno. En esencia, operan como una combinación coordinada de LLMs y RAGs dentro de un marco estructurado, donde los recursos y posibilidades están diseñados en función de objetivos concretos.
Uno podría preguntarse por qué es necesario esto si los LLM actuales pueden manejar ventanas de contexto sobredimensionadas para la mayoría de las aplicaciones. En otras palabras, uno podría pensar que podemos pasarle un pajar entero de información y pedirle que encuentre la aguja sin tener que orientar o curar el proceso. Sin embargo (al menos por ahora) los LLM pierden asertividad y capacidad de detalle en estos contextos tan amplios, por lo que es imperativo construir máquinas de estado y sistemas de coordinación para que los agentes puedan realizar tareas complejas de buena forma. Ahí está el arte.
En mi opinión, parte importante de la disputa durante inicios de 2025, tiene que ver con cómo estos modelos internalizan en su entrenamiento estas capacidades de razonamiento, y cómo las transparentan al mundo de forma que sus resultados sean utilizables de mejor manera.
Yéndonos un poco más hacia el contexto de Clay, una de las características clave de los agentes es su capacidad para generar respuestas estructuradas (e.g JSON), lo que les permite integrarse con sistemas externos y ejecutar acciones de manera automatizada y predecible. Esta funcionalidad es particularmente relevante en contabilidad y finanzas, donde los agentes pueden alcanzar ciertos niveles de estandarización que, si bien no les coartan totalmente su genialidad, les permiten la interoperabilidad. ¿No es eso lo que hacemos también los humanos con la ley y los estándares?
Fuente: Building Effective Agents
La ruta de la IA en Clay
¡En Clay estamos a punto de lanzar nuestra primera IA de cara a nuestros clientes! Durante varios meses hemos estado utilizando un agente de inteligencia artificial internamente para facilitar la búsqueda de información y apoyar el proceso de Onboarding. Sin embargo, ahora estamos dando un gran paso: que estos agentes asistan directamente a quienes usan Clay.
En las próximas semanas integraremos a Grac.ia, nuestra nueva agente de IA para soporte dentro del chat de usuarios. Con ella, buscamos mejorar la asistencia a nuestros clientes cuando necesiten ayuda. Será capaz de proporcionar información sobre el amplio y complejo conjunto de características de nuestro servicio, además de apoyar a nuestros especialistas del chat, Jorge y Cami, para que puedan enfocarse en su trabajo y disfrutarlo aún más.
Nuestra apuesta es que la IA nos permitirá dedicar más energía y atención a hacer nuestro servicio más humano y detallado, abordando aspectos que antes eran difíciles de cubrir. Y esto es solo el comienzo: en los próximos meses, seguiremos haciendo crecer a Grac.ia en función de su interacción con nuestros clientes.
Bueno, podemos hablar mucho más de este apasionante tema, y sinceramente espero que así sea (feliz de que simplemente conversemos de estas cosas por el medio que sea). Pero por ahora quedamos hasta acá.
Para quienes deseen profundizar en este campo, recomiendo algunas fuentes de información especializadas que me han ayudado consistentemente durante los últimos dos años.
Nos vemos!
En 20 minutos sabrás si la solución que necesitas está en Clay.
Experimenta la tranquilidad de tener todo en orden.
