Wat staat erop de MT-agenda? AI Cloud Platforms?

Van onze klanten en relaties krijgen we geregeld vragen over nieuwe producten, technieken en diensten die het IT-landschap verrijken of blijvend zullen veranderen. Althans die suggestie wordt nog weleens gewekt. Vele afkortingen vliegen hen om de oren en als het niet je dagelijkse werk is om de nieuwste ontwikkelingen op de voet te volgen, dan is het gewoonweg niet meer bij te houden. In de reeks 'Wat staat erop de MT-agenda' behandelen wij telkens een veelgehoorde term en lichten we kort toe wat het is, wat het doet en waarom je het wel of niet kunt inzetten.

Naam of afkorting:

AI (Artificial Intelligence) Cloud Platform

Waar staat het voor:

Een AI Cloud Platform biedt de hulpmiddelen en interfaces in de (public) cloud voor data scientists, IT professionals en in toenemende mate niet technische gebruikers vanuit de business om AI toepassingen te creëren.

Wat is het:

Het is een omgeving waar AI hulpmiddelen worden aangeboden, inclusief de middelen om AI modellen te laten werken (processorkracht, werkgeheugen en opslag). Kenmerkende onderdelen van zo’n platform zijn functionaliteiten voor automated Machine Learning (AutoML), natuurlijke taalverwerking (NLP – natural language processing) en beeldverwerking. De grote cloud providers (Amazon – AWS, Microsoft – Azure, Google Cloud, IBM – Watson en Oracle – Cloud Infrastructure) bieden allemaal hun eigen variant van een AI Cloud Platform.

Wat doet het?

Met inzet van een AI cloud platform kan een groot deel van de activiteiten die een rol spelen bij het ontwikkelen en inzetten van AI toepassingen worden uitgevoerd. Dan gaat het bijvoorbeeld om het trainen, evalueren en tunen van een model, het in productie nemen van modellen, het gebruiken van modellen voor voorspellingen, en het monitoren en beheren van modellen. Daarnaast kan een AI cloud platform diensten bieden zoals het (laten) labelen van data om AI modellen mee te trainen. Voor softwareontwikkelaars worden in toenemende mate AI development services aangeboden. Die bieden ontwikkelaars mogelijkheden om via API’s, SDK’s of applicaties gebruik te maken van AI functionaliteit voor bijvoorbeeld beeldherkenning, video analyse en Optical Character Recognition (OCR).

3 redenen waarom wel/niet inzetten?

1. Een AI cloud platform biedt voordelen ten opzichte van andere omgevingen om met AI te werken. Een voorbeeld is de schaalbaarheid die cloud computing in brede zin met zich meebrengt. Bij inzet van AI is het belang hiervan nog groter dan in reguliere IT-omgevingen, vooral omdat het trainen van modellen veel (processor-)capaciteit vraagt. Die kan in cloudomgevingen flexibel worden op- en afgeschaald waardoor modellen snel en kosteneffectief kunnen worden getraind. De data die nodig zijn voor training en de AI/ML ontwikkelomgevingen (zoals Jupyter Notebooks) staan in dezelfde omgeving. Bij grote (productie) datasets is dat buiten cloud platforms lastiger te realiseren.
   ‍
2. AutoML functionaliteit biedt ontwikkelaars die minder kennis en ervaring hebben op het gebied van Machine Learning ondersteuning om het meest passende model te kiezen, en de meest passende parameters voor zo’n model. AI cloud platforms ondersteunen de meest actuele versies van bekende raamwerken en talen voor machine learning en deep learning. De grote AI Cloud Providers bieden pre-trained modellen die vooral voor meer generieke toepassingen zoals vertaaldiensten, spraak-naar-tekst, tekst-naar-spraak en beeldherkenning goed inzetbaar zijn. Het voordeel van het gebruik van deze pre-trained modellen is dat het trainen van die modellen enorm veel trainingsdata en capaciteit vraagt. Daarnaast dat voor het optimaliseren van die modellen zeer specialistische kennis noodzakelijk is. Zonder over die data, capaciteit en kennis te beschikken kan met inzet van pre-trained modellen wel gebruik worden gemaakt van de functionaliteit die die modellen bieden.
   ‍
3. Één van de belangrijkste vraagstukken bij het inzetten van AI cloud platforms is data privacy. Om AI modellen te trainen zijn grote hoeveelheden data nodig. Voor veel toepassingen geldt dat hoe meer gegevens bekend zijn van een object (zoals een klant), hoe groter de nauwkeurigheid van een AI model kan worden. Als er dan (speciale) persoonsgegevens worden gebruikt voor het trainen kunnen er vragen rijzen of opslag van die data in een public cloud omgeving juridisch toelaatbaar is, en of die gegevens in technische zin afdoende beschermd zijn. Voor de laatste vraag geldt wel dat de grote cloud providers meer middelen hebben om hun platformen te beveiligen dan de meeste andere organisaties. Tegelijkertijd zijn zij een zeer aantrekkelijk doelwit voor kwaadwillenden.

Zet je AI cloud platforms op jouw MT-agenda?

De toepassingen van AI en de mogelijkheden die die bieden groeien in hoog tempo. Recent is er bijvoorbeeld veel aandacht voor ChatGPT wat in staat is om teksten te genereren die vrijwel niet te onderscheiden zijn van door mensen geschreven stukken. De interactie met “Digital Humans” die in toenemende mate worden toegepast wordt gestuurd door AI. In dat opzicht is het verstandig om te onderzoeken welke mogelijkheden inzet van AI biedt voor een organisatie. Als dat leidt tot inzet van AI is een goede vraag of ontwikkeling van AI toepassingen door de eigen organisatie zou moeten worden gedaan, en of dan een AI cloud platform een passende omgeving is om te voorzien in de behoeften aan inzet van AI. Voor softwareontwikkelaars bieden AI cloud platforms mogelijkheden om nieuwe diensten te bieden aan klanten, waarbij die platforms een aantal voordelen bieden ten opzichte van AI ontwikkelomgevingen in eigen beheer.