Integreer LLM’s veilig en effectief in uw softwareproducten
Generative AI maakt een steile opgang, met ‘large language models’ (LLM’s) op kop. Deze technologieën bieden de mogelijkheid om bestaande functionaliteiten op een nieuwe manier te implementeren, zoals bij natural language processing (NLP) gerelateerde zaken als entity extraction, sentimentanalyse en samenvatting. Ook kunnen er geheel nieuwe gebruikerservaringen mee worden gecreëerd, zoals chat-gebaseerde interfaces en agenten. Naar verwachting zullen dan ook veel softwareontwikkelaars hun producten de komende jaren uitrusten met LLM’s.
Hoewel het bouwen van een proof of concept op basis van LLM’s relatief eenvoudig is dankzij ondersteunende technologieën zoals Langchain, Ollama of Crew.ai, blijkt het verre van triviaal om deze op een veilige, robuuste en kostenefficiënte manier uit te rollen. Hoe ‘unit test’ je immers een applicatie waarin een belangrijk onderdeel (de LLM) zich niet-deterministisch gedraagt? Of hoe bepaal je of de outputs van je systeem te allen tijde geoorloofd zijn?
Introductie van onderzoeksproject LISA
Vanuit deze optiek hebben Sirris en DistriNet Research Unit van KU Leuven het collectieve onderzoeksproject LISA (LLM Implementation, Security & Adaptation) opgezet. LISA heeft als doel kennis te bundelen rond de integratie van LLM’s in bestaande of nieuwe digitale toepassingen. Het project richt zich op Vlaamse softwarebedrijven (kmo’s) die digitale producten ontwikkelen en exploiteren. De focus van het onderzoeksproject ligt op onderzoeken hoe de robuustheid, cyberveiligheid, performantie, kostoverwegingen en naleving van regelgeving gegarandeerd kunnen blijven wanneer LLM’s worden geïntegreerd in eigen software.
De vermoedelijke startdatum van het project is 1 januari 2025 en de projectduur is twee jaar. Gedurende deze periode zal de opgebouwde kennis continu worden verspreid onder de begeleidingsgroep.
Waarom deelnemen aan de begeleidingsgroep?
Voor bedrijven die al geëxperimenteerd hebben met LLM's in een proof-of-concept-formaat, maar ook voor bedrijven die nog geen gebruikersbehoeften hebben gematcht met deze technologie, biedt deelname aan het LISA-project een tijdsefficiënte manier om deze belangrijke evolutie in de ontwikkeling van digitale producten te volgen. Deelnemende bedrijven volgen het project van dichtbij en geven hun input over uitdagingen (use cases) rond deze thematiek. Sirris en DistriNet zullen deze uitdagingen tijdens het project aanpakken.
Verder fungeert de begeleidingsgroep als klankbord voor de opvolging van de projectvoortgang en rapportering, samenstelling en praktische werking, intellectueel eigendom (IPR) en deontologische aspecten (confidentialiteit, gebruik van projectresultaten, ...) en latere valorisatie van de projectresultaten.
Meld u aan voor LISA
Mis deze kans niet om deel uit te maken van een vooruitstrevend project dat de toekomst van digitale productontwikkeling zal vormgeven: meld u aan voor de begeleidingsgroep en werk samen met toonaangevende experts aan het integreren van LLM’s in uw softwareproducten op een veilige en effectieve manier.
U wilt meer informatie of u wilt zich aanmelden voor het LISA-project? Neem contact op met projectcoördinator Nick Boucart via e-mail, of boek een vrijblijvend intake-gesprek.
