Perplexity, una startup con sede en San Francisco, ha presentado dos nuevos modelos de lenguajes grandes (LLM) en línea llamados pplx-7b-online y pplx-70b-online.
Estos LLM en línea tienen como objetivo superar las limitaciones clave de muchos LLM existentes: la incapacidad de proporcionar información actualizada y la tendencia a alucinar hechos inexactos.
¿Qué son los LLM en línea?
Los LLM en línea de Perplexity pueden aprovechar la información más reciente de Internet para generar respuestas, lo que los hace excepcionalmente capaces de responder consultas que dependen de eventos o datos recientes.
Por ejemplo, los modelos pueden informar los últimos resultados deportivos, los precios de las acciones o las últimas novedades de Google.
Esta conexión a tierra en tiempo real contrasta con los LLM fuera de línea como GPT-3.5, que dependen únicamente de sus datos de capacitación, que gradualmente se vuelven obsoletos.
Además, Perplexity emplea varias técnicas para maximizar la precisión de los hechos y minimizar la generación de información falsa.
Los modelos PPLX se basan en los modelos de código abierto mistral-7B y llama2-70B y Perplexity los ha ajustado específicamente en conjuntos de datos diversos y de alta calidad para optimizar su utilidad y factibilidad.
Tecnología de búsqueda interna: nuestra infraestructura interna de búsqueda, indexación y rastreo nos permite aumentar los LLM con la información más relevante, actualizada y valiosa. Nuestro índice de búsqueda es grande, se actualiza periódicamente y utiliza algoritmos de clasificación sofisticados para garantizar que se prioricen los sitios de alta calidad que no cuentan con SEO. Se proporcionan extractos del sitio web, que llamamos “fragmentos”, a nuestros modelos pplx-online para permitir respuestas con la información más actualizada.
¿Cómo se comparan los modelos PPLX con GPT 3.5?
Las primeras pruebas proporcionadas por la compañía indican que los LLM en línea de Perplexity igualan o superan las capacidades de los LLM patentados líderes como GPT-3.5 en los puntos de referencia que miden la solidez, la utilidad y el conocimiento en todas las materias académicas.
La capacidad de los modelos PPLX para aprovechar la información en línea más reciente les permite proporcionar hechos y datos oportunos en respuesta a las consultas.
Capturas de pantalla de Perplexity, noviembre de 2023Cómo acceder a los nuevos LLM en línea de Perplexity
Los modelos son accesibles públicamente a través de la API de Perplexity y la interfaz web de Labs, lo que permite a los desarrolladores integrar la tecnología en sus propias aplicaciones y sitios web.
El lanzamiento de estos LLM en línea altamente capaces pero asequibles marca un momento crucial para la democratización de la IA, según Aravind Srinivas, director ejecutivo de Perplexity.
Estoy emocionado de anunciar que pplx-api saldrá de la versión beta y pasará a precios basados en el uso, junto con las primeras API LLM en vivo que se basan en datos de búsqueda web y no tienen límite de conocimiento. https://t.co/VYXIjqdLy9
– Aravind Srinivas (@AravSrinivas) 29 de noviembre de 2023
Al brindar acceso a la información y los conocimientos más recientes de la web, los modelos de Perplexity ayudan a nivelar el campo de juego entre las grandes empresas de tecnología y las organizaciones más pequeñas que buscan beneficiarse de la IA.
Con mayores mejoras de rendimiento en el horizonte, Perplexity visualiza un nuevo paradigma para la búsqueda y el descubrimiento de información centrado en interfaces conversacionales. Sus LLM en línea insinúan un futuro en el que podremos consultar a un asistente de IA como si fuera un experto humano y recibir respuestas oportunas, objetivas y matizadas.
Imagen de portada: Jamie Jin/Shutterstock
