(Čítanie poznámok) SecureML: Systém pre škálovateľné strojové učenie chrániace súkromie
Secureml
SecureML
- Priekopnícka práca v oblasti outsourcingu uvažovania a školení v oblasti ochrany súkromia podrobne analyzuje proces implementácie lineárnej regresie, logistickej regresie a neurónovej siete. Sčítanie je možné vypočítať nezávisle a multiplikačný protokol je navrhnutý pomocou trojitých offline násobení. Oba dosahujú jednoduchú linearitu. Kombinovaný výpočet pre nelineárne funkcie, ako je aktivačná funkcia ReLU, normalizačná funkcia Softmax, v porovnaní s použitím lineárnych polynómov nízkeho rádu na aproximáciu alebo rozšírenie Taylorovho radu, tento dokument osobitne navrhuje novú jednoduchú aktiváciu po častiach na dosiahnutie aktivačnej funkcie, normalizačná funkcia sa realizuje nahradením exponenciálnej jednotky, ktorá poskytuje veľa analýz efektívnosti a bezpečnosti a veľa experimentov sa vykonáva na platforme C ++.
- Tento článok má však niekoľko nedostatkov:
- Návrh bezpečnej nelineárnej funkcie je pomerne jednoduchý a nie univerzálny. Ako navrhnúť dokonalé riešenie zdieľania nelineárnych funkcií, napríklad je možné bezpečne realizovať prevod medzi nelineárnymi a lineárnymi funkciami?
- Je použiteľné iba pre plytké perceptróny alebo neurónové siete (strojové učenie). Ako je možné ju rozšíriť, aby sa dosiahla ochrana hlbokých neurónových sietí pri zachovaní vysokej výpočtovej efektívnosti, to znamená, ako zmenšiť priepasť medzi výpočtom holého textu a výpočtom šifrovaného textu?
- Výcvik neurónovej siete s hustým stavom má vyššie požiadavky na presnosť výpočtov. Ako riadiť šírenie a odvodenie chyby?