利用全同态加密保护大语言模型隐私

Zama 提出利用全同态加密（FHE）技术，在保护用户查询隐私的同时维护模型知识产权。通过 Hugging Face transformers 库与 Concrete-Python，将 GPT2 的注意力机制适配至 TFHE 架构，实现加密数据上的模型推理。实验显示，采用 4-bit 量化后，模型在加密状态下仍能保持原始精度的 96%。