Verbeteringen in Databricks' Mosaic AI-toolset voor Generatieve AI

Verbeteringen in Databricks’ Mosaic AI-toolset voor Generatieve AI

Databricks heeft recentelijk zijn Mosaic AI-toolset verbeterd, gericht op het bouwen en implementeren van kunstmatige intelligentiemodellen, met een specifieke focus op generatieve AI-toepassingen. Deze verbeteringen, gepresenteerd tijdens de Data + AI Summit in San Francisco, zijn bedoeld om de ondersteuning voor complexe AI-systemen te optimaliseren en de kwaliteit en governance van modellen te verbeteren.

Complexe AI-systemen maken gebruik van verschillende componenten, waaronder modellen, opvragers, vector databases en tools voor evaluatie, monitoring, beveiliging en governance. De nieuwe Mosaic AI Agent Framework helpt ontwikkelaars bij het snel en veilig bouwen van hoogwaardige retrieval-augmented generation (RAG) applicaties, door relevante informatie uit een kennisbasis van een organisatie te integreren in tekstgeneratietaken.

Daarnaast stelt de Mosaic AI Agent Evaluation ontwikkelaars in staat om modellen snel te itereren en opnieuw uit te rollen, waardoor de kwaliteit van de outputs kan worden verbeterd met behulp van feedback van menselijke experts. De nieuwe GenAI Tools-functie biedt organisaties de mogelijkheid om agents of tools te beheren en registreren via de Unity Catalog, een uniforme governance-laag voor data binnen het Databricks Data Intelligence Platform. Dit zorgt ervoor dat modellen veilig kunnen worden gebruikt en beheerd.

De Mosaic AI Model Training functie verfijnt open-source foundation-modellen met privédata van organisaties, wat resulteert in modellen die betere resultaten opleveren dan standaard RAG-training. Bovendien zijn deze verfijnde modellen sneller en goedkoper in gebruik dan grotere, propriëtaire modellen, omdat ze minder parameters hebben en minder rekenkracht vereisen.

De Mosaic AI Gateway biedt een enkele interface voor het beheren en implementeren van zowel open-source als propriëtaire modellen, waardoor gebruikers eenvoudig tussen modellen kunnen schakelen zonder uitgebreide wijzigingen in de applicatiecode aan te brengen. Dit helpt bij het verminderen van het beheerprobleem dat ontstaat wanneer verschillende teams AI willen gebruiken.

In een andere ontwikkeling heeft Databricks aangekondigd dat het de Unity Catalog onder een open-source licentie zal uitbrengen, wat de toewijding van het bedrijf aan open ecosystemen benadrukt. Unity Catalog biedt een enkele toegangspoort tot verschillende dataformaten en rekengeneratoren, en ondersteunt belangrijke standaarden voor interoperabiliteit met cloudplatforms en open-source analytische frameworks.

Tot slot heeft Databricks zijn samenwerking met Nvidia versterkt om Nvidia’s Compute Unified Device Architecture (CUDA) naar het Databricks Data Intelligence Platform te brengen, wat de ondersteuning voor Nvidia GPU-versnelling op het platform zal vergroten. Deze ontwikkelingen positioneren Databricks als een krachtige speler in de AI- en databeheerindustrie.

Databricks heeft zijn Mosaic AI-toolset uitgebreid ter ondersteuning van generatieve AI-toepassingen en verbeterde modeltraining.

Bron: SiliconANGLE News | URL