Quin-app

Quin-app ontloopt ten onrechte strenge regelgeving bij CE-certificering

Voor het gebruik van software in de geneeskunde bestaat Europese regelgeving met vertaling naar landelijke regelgeving. Medische software kent veel verschijningsvormen. In dit artikel ga ik speciaal in op het gebruik van een app en wel specifiek de Quin-app van Quin-dokters. Over die app en het onderliggende bedrijf Quin B.V. dat een flink conglomeraat aan huisartspraktijken wil vormen publiceerde ik eerder op 5 december 2020 , 23 januari 2021 en 28 januari 2021.  Software kan een ondersteunende rol spelen bij het gebruik van een medisch apparaat. Los daarvan kan software ook zelf als een medische toepassing functioneren: Software as a Medical Device. De Quin-app neemt een zeer prominente plaats in bij het digitale bedrijfsmodel van Quin B.V.  Op de Quin-website staat dat Quin bestaat uit een energiek team vol optimisten en doeners, die samen een ijzersterke combi vormen van medische wetenschap en kunstmatige intelligentie.

Waar zet Quin kunstmatige intelligentie in?

Dat gebeurt in de Quin-app. Daarin kan je met het beantwoorden van 12 vragen een medisch profiel van jezelf aanmaken, symptomen checken en contact zoeken met je huisarts. De app is volgens de website CE gecertificeerd als hulpmiddel klasse 1. Door de plaats van de app in het bedrijfsmodel van Quin bv is het overduidelijk dat men de app als triage- c.q. diagnose-instrument gebruikt.

Gebruikersvoorwaarden

Daarin staat over de functie in 2.1 :

” Symptoomchecker: de mogelijkheid om vragen, symptomen en andere informatie in onze kunstmatige-intelligentie-symptoomchecker in te voeren, waarmee op basis van de door u ingevoerde gegevens informatie over medische aandoeningen wordt opgeroepen. Op basis van de door u verstrekte gegevens over symptomen en klachten, gecombineerd met statistische medische informatie over medische aandoeningen en risico’s, ontvangt u zonder menselijke tussenkomst advies over uw behoefte voor (onmiddellijke) medische behandeling. “ 

Dat komt neer op triage en het verschaffen van een diagnose en /of  een differentiaal diagnose.

Disclaimer

Quin strooit iedereen zand in de ogen in de disclaimer in de gebruikersvoorwaarden onder 3.2. Deze luidt:

“De output van onze Diensten vormt geen medisch advies, diagnose of behandeling. U dient daarom altijd met een bevoegde medische professional te praten over eventuele vragen die u heeft over een medische aandoening, over zorgen die u wellicht heeft over de door onze Diensten verstrekte informatie, dan wel voordat u beslissingen neemt die van invloed kunnen zijn op uw gezondheid.”

Tegenstrijdig

Dat is op zijn zachtst gezegd wonderlijk. De app geeft wel zonder menselijke tussenkomst een advies over de behoefte aan een (onmiddellijke) medische behandeling maar de uitkomst zou de patiënt toch niet als advies moeten zien. Het is een redenatie die intern  tegenstrijdig is. Zeer zorgelijk is het dat Quin B.V. daarbij en waarschijnlijk door die disclaimer stelt dat het een Europees, CE klasse 1 gecertificeerd hulpmiddel is. Dat betekent dat het een niet erg ingrijpend medisch hulpmiddel zou zijn. In deze lage CE-classificatie mag de fabrikant zelf een technische omschrijving geven, is zelf-certificerend en ontloopt externe controle.

Misverstand

Vaak wordt gedacht dat de CE-markering een keurmerk is. Dit is niet het geval. De CE- markering garandeert niet de kwaliteit van het product of klinische relevantie voor het stellen van een bepaalde diagnose. De CE- markering garandeert slechts dat het product voldoet aan de Europese eisen voor het product en dat de procedures om dit vast te stellen doorlopen zijn. Het betreft daarmee een conformiteits-artikel. Er bestaan enkele risicoklassen waarin “software as a medical device” in kan vallen. Dat hangt af van de functionaliteit ervan.

Risico-klassen

In een stuk van Nictiz van december 2019 leggen enkele juristen dit uit. Daarin en ook in een later verschenen stroomschema kan men zien dat er sprake is van drie klassen: 1, 2 en 3. Klasse 2 is weer onderverdeeld in 2a en 2b. Klasse 2 is software voor het verstrekken van informatie die gebruikt wordt bij het nemen van beslissingen voor diagnostische of therapeutische doeleinden. De Quin-app is in haar opzet en met de documentatie op de Quin- website niet anders te zien  dan software die in klasse 2a dan wel klasse 2 b valt. Als er sprake is van een klasse 2 of 3 dan is er geen sprake van zelf-certificering zoals bij klasse 1. Het conformiteitsonderzoek dient dan te geschieden door een speciaal daarvoor aangemelde organisatie de zogenaamde “notified body”.

Verificatie en validatie

Dat conformiteitsonderzoek gaat veel verder dan de technische omschrijving waar men bij klasse 1 certificering kan volstaan.  Bij een dergelijk onderzoek doet men aan verificatie en validatie. Het eerste is de vraag of het product doet wat de technische omschrijving stelt. Bij validatie gaat  het om te zien in hoeverre de toepassing geschikt is het probleem aan te pakken waar het voor ontworpen is. Door het zelf positioneren van de Quin-app als klasse 1 object ontlopen de makers de veel strengere verificatie en validatie-audits. Men denkt bij Quin BV daartoe weg te komen met een disclaimer door in de gebruikersvoorwaarden (punt 3.2 ) te stellen dat de uitkomst van de dienst die de Quin-app verleent geen medisch advies of behandeling vormt. Dat is onterecht omdat de opzet van de app juist is die diensten te verlenen.

Zelfde truc in VK

Exact dezelfde truc paste in het Verenigd Koninkrijk Babylon Health uit met haar app Babylon, in gebruik bij GP At Hand huisartspraktijken. Zeer recent stond in het online tech-magazine Techcrunch een interessant stuk over de groeiende bezorgdheid bij de Britse toezichthouder MHRA (Medicines and Healthcare Registration Authority) over de Babylon app. Ook die staat te boek als symptoomchecker met klasse 1 CE-registratie. Met precies dezelfde soort disclaimer als de Quin-app. In het artikel blijkt dat Babylon Health er opeens als de kippen erbij is om te zeggen dat ze recent eigenstandig zich aanmeldden voor een klasse 2a certificering. Ik heb een vuig vermoeden dat men bij Babylon Health  de bui zag hangen dat de toezichthouder op korte termijn geen genoegen meer zou nemen met een klasse 1 registratie met daarbij behorende zelfdocumentatie.

Wat moet er hier gebeuren?

Wie houdt hier in Nederland nu toezicht op? We hebben geen equivalent van de MHRA. De Inspectie Gezondheidszorg en Jeugd(IGJ) doet dit hier. Uit berichtgeving uit 2016 blijkt dat men er serieus mee bezig is. Zelfs het uitdelen van boetes schuwt men niet. Dat gebeurde vooral ten aanzien van bedrijven die in het geheel geen CE-registratie aanvroegen bij een medische app. De IGJ dient geen medische software met een te lage CE- classificatie die zo verificatie en validatie ontloopt te accepteren. En moet bedrijven die zich daaraan bezondigen beboeten. De IGJ moet niet toestaan dat bedrijven disclaimers gebruiken die op papier de hoofdactiviteit van de medische software ontkrachten. Die disclaimers verhullen de opzet van de software. Medische software dient pas na een goede verificatie en validatie op de markt te komen.

W.J. Jongejan, 17 maart 2021

Afbeelding van Clker-Free-Vector-Images via Pixabay 

17 maart 2021: enkele kleine  tekstuele aanpassingen. Per abuis stond in alienea Risico-klassen “dan is er geen sprake van zelf-certificering zoals bij klasse 2.”  Dat moet uiteraard, zoals elders ook in de tekst te lezen is, zijn:  “dan is er geen sprake van zelf-certificering zoals bij klasse 1.”