文章主题：瑞士, Lakera, AI, 安全解决方案
原题：Lakera——瑞士信息与通信科技公司，致力于开发安全解决方案，确保生成式AI应用程序的安全性 | 2023年瑞士创新100强
图源Lakera官网
钛媒体APP注：瑞士连续12年全球创新指数竞争力排名第一，是全球重要的创新策源地，也是中国首个创新战略伙伴关系国，在创新发展和科技金融领域与中国具有极佳互补性。
Venturelab主办的“瑞士创新100强”活动，旨在表彰最佳“瑞士制造”的初创和成长期科技创新企业，成为瑞士最具国际影响力的创新生态标杆。自2011年起，该榜单每年在瑞士全国范围内选拔出100家最具创新性和市场前景的瑞士创新企业和25家最具独角兽潜力的瑞士成长期企业。今年，共有41家企业新上榜。这些企业涵盖了生命科学、工程机械、机器人、信息通信、低碳科技、食品科技等多个领域。
为全面呈现和深度介绍我国最具代表性的创新科技，钛媒体APP与Venturelab的中国指定合作伙伴——以明科技（Insight Tech）共同打造并推出了《瑞士创新100强》专题报道，全方位展现了瑞士科技创新的前沿生态及其发展潜力。
在本期的专栏文章中，我们将重点介绍一家在2023年的《瑞士创新100强》榜单上崭露头角的杰出企业——Lakera。这家公司以开发保护生成式AI应用而闻名于世，并始终致力于推动这一领域的技术创新和发展。
Lakera，一家瑞士的信息与通信科技公司，自2021年起，专注于生成式AI应用程序开发的安全工具领域。该公司拥有一份独特的威胁情报数据库，能够有效抵御针对大型语言模型（LLM）的各种攻击。此外，Lakera还提供AI应用程序的压力测试检测服务，以确保其安全性能达到企业级标准。
Lakera是由David Haber、Matthias Kraft和Mateo Rojas-Carulla三人共同创立的。这个团队拥有十年以上的丰富经验，专门致力于为金融、医疗保健和航空航天等高风险环境开发人工智能程序。
生成式AI的发展受到LLM技术的推动，然而，其迅速的应用也相伴着一系列安全问题，如提示注入攻击、数据泄露、网络钓鱼以及有毒语言输出等。这些问题不仅对于LLM供应商来说是一大挑战，同时也对使用LLM的企业产生了影响，使得它们在整合LLM业务应用时面临着数据和隐私泄露的风险。然而，更为关键的是，目前的企业安全解决方案尚无法满足生成式AI应用程序的安全需求。
图源Lakera官网
Lakera是一款专注于生成式AI开发的安全平台，它配备了专有的威胁情报数据库，能够迅速应对针对大型语言模型（LLM）的各种攻击。此外，该平台还能对AI应用程序进行压力测试，以检测潜在的漏洞并确保其安全性。
Lakera拥有专有的威胁情报数据库，该数据库综合了LLM应用程序、Gandalf、开源数据以及Lakera对机器学习的专门研究，记录了数千万条攻击数据，并且每天仍以10万+条的速度增长。其中，Gandalf是Lakera 开发的一款人工智能安全游戏，玩家的任务是通过“欺骗式”语言操纵LLM以绕过其内部安全功能来获得密码，该游戏旨在通过“众包”式演练注入攻击来获得威胁数据。截至去年10月，Gandalf记录了约3000万次互动，为 Lakera的数据库提供了更丰富的漏洞信息。
基于该数据库，Lakera能在30秒内找到漏洞，弥合训练数据偏差，防御提示注入攻击、数据中毒等威胁。无论企业使用何种类型的生成式AI，Lakera都能快速接入。其使用也非常简单，只需添加几行代码即可保护整个应用程序，在云端或本地都可以部署，确保AI应用程序安全可靠。
Lakera具备内容审核功能，可以扫描和评估AI应用程序是否存在幻觉和偏见，保护企业免受有害内容、错误信息和模型错位的影响，确保LLM不会产生有害和欺骗性内容，或以非预期和不道德的方式运行。Lakera能主动检测和防范违反政策的行为，确保LLM在部署前后都符合道德准则、公司政策与合规政策。
同时，Lakera能有效防止数据泄露，避免AI应用程序因劫持或操作不当造成的原始系统提示泄露，并保护个人身份信息 (PII)等敏感信息。Lakera还能对整个组织的人工智能系统进行持续评估、跟踪、报告和管理，以确保它们在任何时候都是安全的。
Lakera的客户包括财富500强巨头、LLM提供商以及创新型初创企业和成长型企业。2023年，Lakera与领先的企业级人工智能平台Cohere达成合作，寻求更加创新的方法来确保LLM安全。
2023年，Lakera完成了1000万美元的融资，将进一步扩大公司业务，帮助更多企业安全地部署人工智能模型，构建生成式AI应用程序的安全标准。
2023年《瑞士创新100强》中文版由以明科技（Insight Tech）荣誉发布。以明科技是《瑞士创新100强》的中国授权合作方，负责《瑞士创新100强》在中国的运营推广并协助榜单项目对华商业合作。作为中欧（瑞士）科技创新投资与产业化运营商，以明科技为瑞士创新和中国产业的双向合作提供投融资和商业拓展服务并开展股权投资业务。
获取2023年《瑞士创新100强》完整榜单及行业榜单，请访问以明科技公号或官网。返回搜狐，查看更多
责任编辑：
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
