Aplikace pro duševní zdraví s využitím umělé inteligence představují značnou produktovou a tržní příležitost, ale také značné právní a etické riziko. V celých Spojených státech, Evropské unii (a členských státech, jako je Francie a Německo), Spojeném království, Kanadě, Austrálii a Indii očekávají regulační orgány kombinaci ochrany údajů, klinické bezpečnosti a kontrol specifických pro umělou inteligenci. Nedávné vymáhání předpisů (například opatření FTC proti BetterHelp) a nová pravidla (zákon EU o umělé inteligenci, doporučení CNIL pro mobilní aplikace, aktualizace 42 CFR části 2) činí z dodržování předpisů požadavek na živý produkt, nikoli dodatečnou záležitost.
Tato příručka zahrnuje:
- Základní regulační rámce a praktické technické kontroly.
- Aktualizace podle jednotlivých zemí a odkazy na primární zdroje.
- Srovnávací přehled postupů v oblasti dodržování předpisů používaných hlavními aplikacemi pro duševní zdraví (Woebot, Wysa, Talkspace, BetterHelp, Headspace).
- Doporučený kontrolní seznam implementace a vzory návrhu produktů.
1. Mapování na vysoké úrovni: požadavky → kontroly produktu

Požadavek | Proč je to důležité | Kontroly betonových výrobků |
| Minimalizace dat a souhlas | Snižuje regulatorní expozici a buduje důvěru | Omezení sběru dat, obrazovky souhlasu, vázání účelu, časovače pro citlivé toky |
| Silné technické zabezpečení | Zabraňuje narušení a splňuje pravidla (HIPAA, GDPR) | TLS, šifrování v klidovém stavu, MFA, RBAC, protokolování |
| Práva subjektu údajů | Právní mandáty v GDPR/UK/DPDP | Pracovní postupy exportu/mazání, postupy odvolání souhlasu, automatizace DSAR |
| Klinická bezpečnost a lidský dohled | Diagnostika nebo třídění s využitím umělé inteligence představuje bezpečnostní riziko pro pacienta | Klinický bezpečnostní případ, lidská interakce, eskalační cesty |
| Správa třetích stran | SDK a dodavatelé s sebou nesou riziko | Hodnocení dodavatelů, dohody BAA, posouzení vlivu na ochranu osobních údajů, označování na straně serveru |
2. Podle jednotlivých zemí: hlavní trhy a nedávný vývoj

United States
- Primární rámce: HIPAA (Ochrana soukromí, zabezpečení, oznámení o porušení), HITECH; pro záznamy o poruchách užívání návykových látek (SUD), 42 CFR část 2.
Reference: https://www.hhs.gov/hipaa/for-professionals/index.html | Závěrečné pravidlo 42 CFR Část 2: https://www.federalregister.gov/documents/2024/02/16/2024-02544/confidentiality-of-substance-use-disorder-sud-patient-records - Nedávné položky: Konečné pravidlo 42 CFR Part 2 bylo vydáno v roce 2024 a sladilo mnoho zveřejňování SUD s HIPAA; lhůty pro dodržování předpisů jsou posunuty do roku 2026. FTC rovněž projevila zájem o vymáhání údajů o behaviorálním zdraví (příkaz BetterHelp a náprava ve výši 7.8 milionu dolarů). Viz stránky FTC: https://www.ftc.gov/news-events/news/2023/07/ftc-gives-final-approval-order-banning-betterhelp-sharing-sensitive-health-data-advertising a oznámení o vrácení peněz https://www.ftc.gov/enforcement/refunds/betterhelp-refunds.
- Důsledky produktu: Považujte jakoukoli integraci s poskytovateli zdravotní péče nebo elektronickými zdravotními záznamy za pravděpodobně aktivující zákon HIPAA. U funkcí aplikace, které shromažďují data o SUD nebo klinických diagnózách, zavádějte logiku souhlasu a opětovného zveřejnění v souladu s Částí 2.
Evropská unie (a vybrané členské státy)
- Primární rámce: GDPR (ochrana osobních údajů), zákon EU o umělé inteligenci (řízení umělé inteligence), nařízení o zdravotnických prostředcích (MDR) a související pokyny MDCG (pro umělou inteligenci jako zdravotnický prostředek).
Odkazy: Text GDPR https://eur-lex.europa.eu/eli/reg/2016/679/oj | Přehled umělé inteligence ve zdravotnictví v EU https://health.ec.europa.eu/ehealth-digital-health-and-care/artificial-intelligence-healthcare_en | Pokyny MDCG 2025‑6 https://health.ec.europa.eu/document/download/b78a17d7-e3cd-4943-851d-e02a2f22bbb4_en?filename=mdcg_2025-6_en.pdf - Nedávné položky: Zákon EU o umělé inteligenci začal ukládat povinnosti pro vysoce rizikové systémy umělé inteligence (včetně některých systémů pro podporu klinického rozhodování). MDCG 2025-6 objasňuje souhru mezi nařízením o zdravotnických prostředcích (MDR) a zákonem o umělé inteligenci pro software zdravotnických prostředků.
- Francie (CNIL): CNIL zveřejnila doporučení pro mobilní aplikace (13. května 2025) s důrazem na vynucování předpisů v oblasti správy SDK, uživatelské zkušenosti s využitím souhlasu a minimalizace. https://www.cnil.fr/en/mobile-applications-cnil-publishes-its-recommendations-better-privacy-protection a kompletní PDF https://www.cnil.fr/sites/cnil/files/2025-05/recommendation-mobiles-app.pd
- Důsledky produktu: Pro uživatele z EU implementujte procesy výslovného souhlasu pro data zvláštní kategorie, spolehlivé záznamy o zpracování, posouzení vlivu na ochranu osobních údajů a posouzení rizik umělé inteligence. Pokud se vaše umělá inteligence kvalifikuje jako software pro zdravotnické prostředky, slaďte technickou dokumentaci a poprodejní dohled s požadavky MDR a zákona o umělé inteligenci.
Velká Británie
- Primární rámce: GDPR Spojeného království, zákon o ochraně osobních údajů z roku 2018, klinické bezpečnostní standardy NHS (DCB0129/DCB0160).
Odkazy: Pokyny ICO https://ico.org.uk/ | NHS DCB0129 https://digital.nhs.uk/…/dcb0129-clinical-risk-management-its-application-in-the-manufacture-of-health-it-systems - Nedávné položky: NHS očekává klinickou bezpečnost systémů používaných v NHS. Pokyny ICO se i nadále zabývají profilováním a automatizovaným rozhodováním ve zdravotnických kontextech.
- Důsledky produktu: V případě integrace s NHS nebo marketingu pro poskytovatele zdravotní péče ve Spojeném království připravte zprávu o klinické bezpečnosti a slaďte ji s postupy řízení klinické bezpečnosti NHS.
Kanada
- Primární rámce: Federální PIPEDA (a CPPA v reformě), provinční zákony (např. quebecký zákon 25).
Reference: https://www.priv.gc.ca/en/ a stránky provinčních komisařů. - Důsledky produktu: Uživatelé v Quebecu čelí přísnějším výchozím nastavením a PIA. Navrhněte nastavení ochrany soukromí ve výchozím nastavení a připravte postupy specifické pro danou provincii.
Austrálie
- Primární rámce: Zákon o ochraně soukromí z roku 1988, australské zásady ochrany soukromí (APP), Správa terapeutického zboží (TGA) pro software jako zdravotnický prostředek (SaMD).
Reference: OAIC https://www.oaic.gov.au/privacy/health-information a pokyny TGA. - Nedávné položky: Regulační kontrola platforem expandujících v Austrálii (mediální pokrytí BetterHelp). Spotřebitelské skupiny a OAIC očekávají záruky soukromí a kvality.
- Důsledky produktu: Pokud aplikace poskytuje diagnostická/terapeutická tvrzení, připravte vyhodnocení TGA SaMD; dodržujte podmínky souhlasu a nakládání s daty v aplikacích.
Indie
- Primární rámce: Zákon o ochraně digitálních osobních údajů z roku 2023 (DPDP Act) a připravovaná pravidla; Zásady pro správu zdravotních údajů a identifikaci zdravotních údajů organizace Ayushman Bharat Digital Mission (ABDM); Pokyny pro telemedicínskou praxi (NMC).
Reference: https://www.meity.gov.in/ a https://abdm.gov.in/ | Pokyny NMC pro telemedicínu https://nmcn.in/public/assets/pdf/Telemedicine%20Practice%20Guidelines.pdf - Nedávné položky: Návrh pravidel DPDP (2025) je předmětem konzultací; rozšíření ABDM zvyšuje očekávání ohledně interoperability.
- Důsledky produktu: Pro indické uživatele implementujte výslovný souhlas, připravte se na možné požadavky lokalizace a integrujte se s ABHA/ABDM, pokud se připojují k národní zdravotnické infrastruktuře.
Brazílie a Latinská Amerika
- Primární rámce: Brazilský zákon LGPD (Lei Geral de Proteção de Dados) široce odráží principy GDPR. Mnoho zemí Latinské Ameriky zdokonaluje pravidla pro zdravotní údaje.
Odkaz: oficiální zdroje LGPD a místní regulační orgány. - Důsledky produktu: Pokud jde o práva a souhlas subjektu údajů, zacházejte s LGPD podobně jako s GDPR.
3. Jak přední aplikace pro duševní zdraví implementují dodržování předpisů (srovnávací přehled)

Tato část porovnává praktické postupy v oblasti dodržování předpisů a veřejná tvrzení hlavních aplikací. Odkazy odkazují na stránky jednotlivých dodavatelů věnované ochraně osobních údajů/zabezpečení.
3.1 Woebot
- Nároky na signály: Zachází s uživatelskými daty jako s chráněnými zdravotními informacemi, dodržuje zásady HIPAA a GDPR, používá šifrování při přenosu i v uchovávání, každoroční externí hodnocení. Zdroj: Stránky Woebot o ochraně osobních údajů/přístupu: https://woebothealth.com/privacy-webview/ a https://woebothealth.com/our-approach-to-privacy/.
- Inženýrské vzory k emulaci: Vyhrazené prostředí pro citlivá data, minimalizace dat pro neklinické funkce, přepínače pro výslovný souhlas s výzkumem.
3.2 Wysa
- Nároky na signály: V souladu s GDPR, zveřejňuje zásady ochrany osobních údajů a výzkumné zásady; podnikové nabídky zahrnují smluvní záruky pro nakládání s údaji Zdroj: https://legal.wysa.io/privacy-policy a https://www.wysa.com/faq
- Inženýrské vzory k emulaci: Oddělené výzkumné a produkční datové sady, jasné možnosti uživatelů pro opětovné použití dat, regionálně segmentovaný hosting.
3.3 Diskusní prostor
- Nároky na signály: Pozice v souladu s HIPAA pro terapeutické služby, formální oznámení o postupech ochrany osobních údajů aktualizováno v roce 2025: https://www.talkspace.com/public/privacy-policy a https://www.talkspace.com/public/notice-of-us-state-privacy-rights
- Inženýrské vzory k emulaci: Jasná strategie BAA se sítěmi poskytovatelů a detailní kontrolou přístupu mezi klinickými pracovníky a personálem platformy.
3.4 Lepší nápověda
- Nároky na signály a jejich vymáhání: Historicky propagováno jako šetrné k soukromí, ale FTC shledala, že sdílí citlivé údaje pro účely reklamy. Opatření FTC (2023) vedlo k zákazu sdílení údajů pro účely reklamy a k finančnímu odškodnění: https://www.ftc.gov/news-events/news/2023/07/ftc-gives-final-approval-order-banning-betterhelp-sharing-sensitive-health-data-advertising a vrácení peněz https://www.ftc.gov/enforcement/refunds/betterhelp-refunds
- Lekce: Reklamní/monetizační strategie, které se spoléhají na behaviorální cílení, mohou vést k vynucování předpisů. U aplikací pro duševní zdraví je monetizace reklam extrémně riskantní, pokud není plně anonymizována a smluvně prověřena.
3.5 Prostor pro mysl (Zdraví v prostoru pro mysl)
- Nároky na signály: Kombinuje wellness pro spotřebitele s klinickými nabídkami prostřednictvím partnerů; Headspace odkazuje na závazky HIPAA, pokud poskytovatelé péče poskytují služby, a uvádí anonymizované analytické údaje: https://www.headspace.com/privacy-policy a organizační stránky https://organizations.headspace.com/faq-connect
- Inženýrské vzory: Jasné oddělení spotřebitelských a klinických dat, explicitní dohody s partnery/BAA, analytika chránící soukromí.
Srovnávací shrnutí: Mezi běžné bezpečnostní kontroly v renomovaných aplikacích patří šifrování při přenosu a v klidovém stavu, řízení přístupu na základě rolí, dohody BAA pro klinické poskytovatele, výslovný souhlas s výzkumem a odhlášení z cílení reklamy. Rozdíly existují zejména v komerčních modelech: předplatné/podnikové vs. spotřebitelské modely podporované reklamou – ty druhé čelí vyššímu regulačnímu riziku.
4. Technické a produktové kontroly mapované na regulační požadavky

Pro operacionalizaci dodržování předpisů je třeba sladit každou regulační povinnost s měřitelnou kontrolou.
Přístup a ověřování
- Požadavek: Chránit chráněné zdravotní informace a data speciální kategorie.
- Ovládání: Vynucení vícefaktorové ověření (MFA) pro všechny účty s přístupem k PHI; používání krátkodobých tokenů a sledování relací; RBAC a nejnižší oprávnění.
Šifrování
- Požadavek: Šifrování je vyžadováno dle osvědčených postupů HIPAA a GDPR.
- Ovládání: TLS 1.2+ pro transport, AES-256 nebo ekvivalent v klidovém stavu, šifrování na úrovni sloupců databáze pro identifikátory.
Souhlas, oznámení a DSAR
- Požadavek: Výslovný souhlas s citlivými údaji dle GDPR; DPDP a další zákony vyžadují jasné oznámení.
- Ovládací prvky: Obrazovky souhlasu pro specifické účely; trvalé protokoly souhlasu; automatizovaný export DSAR (strojově čitelný) a pracovní postupy mazání.
Minimalizace a uchovávání dat
- Požadavek: Princip minimalizace dat dle GDPR.
- Ovládací prvky: Výchozí minimální telemetrie, plány uchovávání, postupy pro obnovitelné odstranění a bezpečné čištění.
Auditabilita a protokolování
- Požadavek: Prokázat zákonné zpracování a bezpečnostní činnost.
- Ovládací prvky: Neměnné auditní protokoly, protokoly přístupu, integrace SIEM, čtvrtletní kontroly protokolů.
Správa dodavatelů
- Požadavek: Dohody BAA podle HIPAA; posouzení vlivu na ochranu osobních údajů pro vysoce rizikové zpracování podle GDPR.
- Kontroly: Šablony smluv (BAA, DPA), bezpečnostní dotazníky dodavatelů, pravidelný sběr důkazů dle SOC2/ISO27001.
Klinická bezpečnost a řízení rizik umělé inteligence
- Požadavek: Pro umělou inteligenci, která podporuje klinická rozhodnutí, se může vztahovat zákon EU o umělé inteligenci a nařízení MDR; NHS vyžaduje soulad s normami DCB0129/DCB0160.
- Kontrolní mechanismy: Klasifikace rizik, klinické validační studie, lidský dohled, verzování modelů, monitorování odchylek od výkonu.
Anonymizace a výzkumná data
- Požadavek: Pro sekundární použití použijte silnou deidentifikaci.
- Omezovací prvky: kontroly k-anonymity, minimální potlačení buněk, oddělená výzkumná enkláva s přísnými kontrolami exportu.
5. Praktický kontrolní seznam produktu před uvedením na trh (minimální proveditelné shody)

- Přiřaďte každý datový prvek k právní kategorii (PII, speciální kategorie, PHI, SUD).
- Implementujte TLS a šifrování v klidovém stavu (algoritmy dokumentů a správa klíčů).
- Vytvářejte toky souhlasu vázané na účel dat a ukládejte protokoly souhlasu.
- Návrh Zásad ochrany osobních údajů a Oznámení o postupech ochrany osobních údajů (USA) a dodatky specifické pro daný region.
- Příprava DSAR pipeline: proces exportu, redigování a mazání.
- Dokončete posouzení vlivu na ochranu osobních údajů (DPIA) pro funkce umělé inteligence a posouzení klinické bezpečnosti, pokud aplikace informuje klinickou péči.
- Zaveďte dohody BAA/DPA s cloudovými a poskytovatelskými partnery.
- Odstraňte sledovací prvky reklam z citlivých obrazovek; pokud je reklama nezbytná, vyžádejte si právní souhlas a zajistěte přísnou anonymizaci.
- Vytvořte postup pro reakci na incidenty a oznamování narušení bezpečnosti v souladu s regionálními časovými harmonogramy.
- Naplánujte průběžné monitorování: odchylky modelu, výkon a pravidelná bezpečnostní hodnocení.
6. Implementační vzory a architektura (doporučeno)

- Oddělení datových vrstev: Uchovávejte identifikovatelné údaje v zabezpečeném prostředí s omezeným přístupem. Data pro trénování umělé inteligence ukládejte do samostatného, anonymizovaného úložiště s přísnými kontrolami exportu.
- Orchestrace souhlasu na straně serveru: Zaznamenávejte souhlas na straně klienta, ale vynucujte rozhodnutí na straně serveru (zabraňte úniku SDK a manipulaci se zákazníky).
- Ovládací prvky ochrany osobních údajů na okraji: U mobilních aplikací omezte nativní oprávnění a provádějte přepínání v aplikaci, abyste na citlivých obrazovkách deaktivovali telemetrii nebo sady SDK třetích stran. Zvažte příjem analytických dat na straně serveru.
- Proces lidské eskalace: Pro detekci krizové situace (sebevražedných sklonů) se vyhněte plně automatizovanému řešení – postupujte přes klinické lékaře se záznamy o zdůvodnění rozhodnutí.
- Záznam a reprodukovatelnost: Verzujte každý model a zaznamenávejte vstupy inference (s ohledem na soukromí), abyste mohli reprodukovat výstupy pro audit nebo bezpečnostní kontroly.
7. Užitečné odkazy a primární reference (autoritativní zdroje)

- HIPAA (HHS) – https://www.hhs.gov/hipaa/for-professionals/index.html
- 42 CFR Část 2 Konečné pravidlo (Federální registr) – https://www.federalregister.gov/documents/2024/02/16/2024-02544/confidentiality-of-substance-use-disorder-sud-patient-records
- Text GDPR – https://eur-lex.europa.eu/eli/reg/2016/679/oj
- Umělá inteligence EU ve zdravotnictví a MDCG 2025-6 – https://health.ec.europa.eu/ehealth-digital-health-and-care/artificial-intelligence-healthcare_en | https://health.ec.europa.eu/document/download/b78a17d7-e3cd-4943-851d-e02a2f22bbb4_en?filename=mdcg_2025-6_en.pdf
- Doporučení CNIL (mobilní aplikace) – https://www.cnil.fr/en/mobile-applications-cnil-publishes-its-recommendations-better-privacy-protection | https://www.cnil.fr/sites/cnil/files/2025-05/recommendation-mobiles-app.pdf
- ICO (Spojené království) – https://ico.org.uk/
- OAIC (Austrálie) – https://www.oaic.gov.au/privacy/health-information
- Zákon o indickém právu / DPDP – https://www.meity.gov.in/
- ABDM (Indie) – https://abdm.gov.in/
- Objednávky a vrácení peněz od FTC BetterHelp – https://www.ftc.gov/news-events/news/2023/07/ftc-gives-final-approval-order-banning-betterhelp-sharing-sensitive-health-data-advertising | https://www.ftc.gov/enforcement/refunds/betterhelp-refunds
- Soukromí a přístup Woebotu – https://woebothealth.com/privacy-webview/ | https://woebothealth.com/our-approach-to-privacy/
- Ochrana osobních údajů Wysa – https://legal.wysa.io/privacy-policy
- Soukromí Talkspace a NPP – https://www.talkspace.com/public/privacy-policy | https://www.talkspace.com/public/notice-of-us-state-privacy-rights
- Soukromí v headspace – https://www.headspace.com/privacy-policy
8. Závěr a kroky, které musí produktové týmy podniknout

- Proveďte 2–4týdenní zjišťování souladu s předpisy: mapujte datové toky, proveďte posouzení dopadu na ochranu osobních údajů (DPIA), identifikujte vysoce rizikové funkce umělé inteligence.
- Upřednostňujte práci na produktech, které rychle snižují právní riziko (odstraňte sledovací prvky na straně klienta na citlivých obrazovkách, šifrujte data, navazujte spolupráci s klienty).
- Vytvořte minimální klinický bezpečnostní případ a postupy lidské eskalace pro detekci krizí.
Ve společnosti Sigosoft přinášíme osvědčené odborné znalosti v oblasti budování bezpečných, škálovatelných a regulačně připravených telemedicínských řešení. Náš tým spolupracoval se startupy, klinikami a podnikovými poskytovateli zdravotnických služeb na integraci architektur kompatibilních s HIPAA, pracovních postupů pro získávání souhlasu připravených pro GDPR a regionálně specifických standardů, jako je indický zákon DPDP, kanadský PIPEDA/CPPA a reformy australského zákona o ochraně osobních údajů. Specializujeme se také na funkce řízené umělou inteligencí, interoperabilitu s elektronickými zdravotními záznamy a dlouhodobou škálovatelnost, což klientům pomáhá nejen spouštět, ale i udržovat konkurenceschopné platformy pro duševní zdraví.
Díky hlubokým zkušenostem s dodržováním předpisů a vývojem pokročilých aplikací umožňuje Sigosoft klientům poskytovat bezpečné, uživatelsky důvěryhodné a na budoucnost připravené aplikace pro duševní zdraví s využitím umělé inteligence. Pokud takové řešení zvažujete, můžeme vás s jistotou provést od konceptu až po realizaci v souladu s předpisy.
Děkuji za zpětnou vazbu!
Začněte diskusi
Máte otázky nebo zkušenosti, které byste chtěli sdílet? Náš tým si je přečte a odpoví.





