Google открывает библиотеку конфиденциальности

Компания Google выкладывает в открытый доступ новую библиотеку дифференциальной конфиденциальности. PipelineDP4J - это библиотека на базе Java, которая может использоваться для анализа наборов данных с сохранением конфиденциальности.

За последние годы Google выпустила в открытый доступ и другие библиотеки, связанные с конфиденциальностью, в том числе библиотеку дифференциальной конфиденциальности и технологию размытия изображений. Эти «технологии повышения конфиденциальности» (PET) используются для сохранения анонимности и защиты информации пользователей, позволяя Google предоставлять рекомендации, такие как предложения автокоррекции. Google обязуется сделать эти технологии PET свободно доступными через проекты с открытым исходным кодом.

По словам Google, дифференциальная конфиденциальность - это математическая основа, которая позволяет анализировать наборы данных с сохранением конфиденциальности. Google использовала эту технологию в таких продуктах, как Google Home, Google Search на Android и Messages, что, по ее словам, является крупнейшим применением дифференциальной конфиденциальности в мире, охватившим около трех миллиардов устройств за последний год.

Технология основана на более чем шестилетних исследованиях модели «шаффлер», которая эффективно перемешивает данные между «локальной» и «центральной» моделями для достижения более точного анализа больших наборов данных, сохраняя при этом самые строгие гарантии конфиденциальности.

Последний релиз - версия PipelineDP для виртуальной машины Java (JVM) под названием PipelineDP4j. PipelineDP - это фреймворк OpenMined для применения дифференцированно частных агрегаций к большим наборам данных с помощью систем пакетной обработки, таких как Apache Spark и Apache Beam.

PipelineDP4j позволяет разработчикам выполнять высокопараллелизуемые вычисления, используя Java в качестве базового языка. По словам Google, выпуск JVM означает, что библиотека охватывает некоторые из наиболее популярных языков, включая Python, Java, Go и C++, и разработчики также могут использовать PipelineDP4j в Kotlin или Scala.

Для достижения дифференциальной конфиденциальности наборы данных должны соответствовать минимальному порогу, чтобы данные отдельных людей не были раскрыты. Внутри PipelineDP4j использует элементы из библиотеки дифференциальной конфиденциальности и объединяет их в «готовое» решение, которое берет на себя все шаги, необходимые для дифференциальной конфиденциальности, включая добавление шума, выбор раздела и ограничение вклада. По словам Google, это делает ее более предпочтительной, чем использование низкоуровневой библиотеки дифференциальной конфиденциальности, поскольку PipelineDP4j позволяет сократить количество ошибок при реализации.

Наряду с библиотекой Google выпускает библиотеку DP-Auditorium, которую можно использовать для проверки того, нарушает ли данный механизм гарантии дифференциальной конфиденциальности. DP-Auditorium использует только образцы из самого механизма, не требуя доступа к внутренним свойствам приложения. В ней представлены интерфейсы для обоих компонентов, чтобы предоставить разработчикам средства для проверки соблюдения гарантии конфиденциальности.