AI Copilot tools
Het afgelopen jaar zijn er verschillende Copilot-tools uitgebracht, zoals Microsoft Copilot suit, Copilot studio en de extra functionaliteiten van GitHub Copilot. De afgelopen maanden hebben we bij Intercept geconstateerd dat deze tools een boost geven aan onze productiviteit en creativiteit. Deze Copilots vormen dan ook een steeds groter onderdeel van onze dagelijkse toolset.
Laten we GitHub Copilot als voorbeeld nemen. Hiermee voegen we AI toe aan onze geïntegreerde development omgeving (zoals Visual Studio Code), waardoor we code kunnen genereren. Zo kunnen we onze tijd meer besteden aan bedrijfsspecifieke zaken in plaats van aan het typen van grote stukken code. Maar Copilot is niet het eindpunt. We staan nog maar aan het begin van wat er allemaal mogelijk is met AI.
Microsoft Azure AI tools
We kunnen onze eigen AI-assistent al maken met Azure OpenAI Assistants. Met de code templates is het een klusje van enkele minuten. Door onze eigen datasets toe te voegen, kunnen we met Azure AI Search zelfs gebruikmaken van de kracht van Large Language Models (LLM's) zoals ChatGPT en nuttige antwoorden creëren op basis van onze eigen gegevens.
Maar laten we nog een stap verder gaan. Denk bijvoorbeeld aan taken die repetitief en tijdrovend zijn. We gaan eens kijken naar AI in bedrijfsprocessen en procesautomatisering…
AI integreren met ITSM
Stel, je hebt een IT Service Management Proces en een oplossing waarmee klanten support tickets kunnen aanmaken. Stel je voor dat je je bestaande productdocumentatie, support documentatie en misschien zelfs sales documentatie koppelt aan je Azure OpenAI Service Instance.
Hier komt de kracht van Azure AI Search van pas. Deze tool kan de kennis van de LLM in Azure OpenAI Service uitbreiden met je eigen gegevens. Zo kan er automatisch gereageerd worden op een ticket op basis van eigen documentensets, gebruikmakend van de generatieve capaciteit van LLM in Azure OpenAI Service.
Er komt nogal wat ‘prompt engineering’ bij kijken om de juiste context in te stellen, maar het concept is veelbelovend. Hoe gaaf zou het zijn als gesprekken met klanten zonder menselijke tussenkomst zo verlopen:
Klant: “Ik wil graag de lay-out van het dashboard dat jullie aanbieden wijzigen, maar dat lijkt niet mogelijk.”
Door AI gegenereerd antwoord: “Voor het wijzigen van de lay-out van het dashboard moet je 'Edit'-rechten hebben. Deze kunnen worden verstrekt door de eigenaar van het dashboard. Je kunt de eigenaar van het dashboard identificeren door op de knop ‘Info’ rechtsboven in de dashboardweergave te klikken.”
Dit lijkt een beetje op een klassieke chatbot. Maar omdat we een ITSM-systeem gebruiken, vindt de communicatie daar plaats.
Dit voorbeeld is nog maar het begin. We kunnen nog een stap verder gaan en processen gaan automatiseren. We zouden AI kunnen gebruiken om een binnenkomend support ticket automatisch te screenen. En als het een geldig verzoek blijkt voor een nieuwe feature, wordt dat verzoek automatisch toegevoegd aan je product back log.
We gebruiken hier vrij eenvoudige, maar krachtige voorbeelden. En dit is allemaal al mogelijk (op basis van de kwaliteit van je dataset en gestandaardiseerde bedrijfsprocessen).
Kubernetes AI Toolchain Operator (KAITO)
Azure OpenAI Service biedt een vrij beperkte set modellen, voornamelijk voor tekst en afbeeldingen. Maar wat als je AI wilt gebruiken voor het verwerken van bijvoorbeeld financiële data? De modellen die momenteel beschikbaar zijn in Azure OpenAI Service zijn daarvoor helaas niet geschikt.
Dan zou je een aangepast model van AI-community Hugging Face kunnen gebruiken. Maar dat vereist vaak nogal wat rekenkracht en kan prijzig zijn in vergelijking met het usage-based model van Azure OpenAI Service.
Het verwerken van financiële data, is doorgaans niet iets wat je 24/7 wilt doen. Je hebt alleen het model nodig wanneer je de gegevens wilt verwerken. Dit is waar populaire platforms zoals Kubernetes om de hoek komen kijken.
Onlangs heeft Microsoft de Kubernetes AI Toolchain Operator (KAITO) gereleased, waarmee we infrastructuur (GPU's) kunnen leveren wanneer we die nodig hebben. We kunnen zelfs de prijzige GPU's/rekenkracht later verwijderen, en alleen betalen voor de gebruikte uren. Dit maakt KAITO geschikt voor scenario's buiten Azure OpenAI Service, en dat voor een betaalbare prijs.
AI-verrijkte oplossingen zijn de toekomst
We kunnen oplossingen verrijken met AI en zo de efficiëntie, productiviteit, creativiteit, business intelligence en klantbeleving verbeteren. Microsoft heeft onlangs veel nieuwe AI-tools uitgebracht om ons werk gemakkelijker en interessanter te maken.
