Opleiding: Generatieve AI voor DevOps: bouw je eigen LLM server

Lesmethode :

Klassikaal

Algemeen :

Kun je als DevOps engineer niet zonder ChatGPT, maar is het gebruik ervan op het werk verboden vanwege beleidsregels of gevoelige data? Ben je benieuwd hoe je je eigen Large Language Model (LLM) kunt hosten? Volg dan deze cursus!

Tijdens de eendaagse workshop Generatieve AI voor DevOps Engineers leer je hoe je jouwe eigen lokale versie van ChatGPT kunt opzetten en gebruiken zonder je data naar de cloud te sturen en volledig op basis van open source technologie.

De dag begint met de basis van Generatieve AI, welke LLM’s beschikbaar zijn en hoe je ze kunt gebruiken. We duiken in de hardware-aspecten en laten zien hoe je GPU-acceleratie kunt toepassen op Virtual Machines en in Containers.

Door middel van diverse praktische oefeningen zet je je eigen large language model server op en maak je zelfs je eigen model. Je leert hoe je een web-based client verbindt met je eigen Large Language Model, waardoor je in feite je eigen ChatGPT-kloon creëert.

Daarnaast ontdek je hoe je verbinding maakt met de LLM API en Python, hoe je Retrieval Augmented Generation toepast om je eigen documenten te gebruiken met je llm, en hoe je afbeeldingen analyseert met je eigen LLM. We gaan ook in op log-analyse met behulp van je LLM.

Deze cursus wordt verzorgd i.s.m. onze partner AT Computing.

Doel :

Na het volgen van deze cursus heb je kennis over de werking van de interne werking van GenAI in het algemeen en LLM’s in het bijzonder. Ook leer je in theorie en praktijk hoe je zelf een lokale LLM-server opzet zonder dat jouw data naar een Cloud-omgeving wordt gestuurd.

Doelgroep :

Deze cursus is voor IT professionals, systeembeheerders, software ontwikkelaars, Cloud- en DevOps Engineers die voor hun dagelijks werk gebruik willen gaan maken van large language models.

Voorkennis :

Om de cursus goed te kunnen volgen is ervaring met de (Linux) command line interface vereist, bijvoorbeeld Linux/UNIX Fundamentals of Linux Infrastructure. Kennis van een programmeertaal, bij voorkeur Python, is een pre.

Onderwerpen :

- Wat is Generatieve AI?
- Welke LLM¿s zijn beschikbaar en hoe kun je ze gebruiken?
- Tokens, vectors en parameters
- Hardware: CPU versus GPU: hoe gebruik je GPU-acceleratie op Virtual Machines en in containers (Docker)
- Een LLM-server opzetten.
- Een eigen LLM-model maken.
- Een web-based client toepassen voor je eigen LLM.
- De LLM API verbinden met Python.
- Het gebruiken van je eigen documenten met je eigen LLM.
- Afbeeldingen analyseren met je eigen LLM.
- Log-analyse met je LLM.