近日，微软（MSFT）支持的OpenAI和Alphabet（GOOGL）旗下的Google DeepMind团队的前任和现任员工纷纷对人工智能（AI）这一增长型技术所带来的风险表示了担忧。

据悉，这些员工包括11名现任和前任OpenAI员工以及1名现任Google DeepMind员工，他们发布的公开信表示，AI初创企业的财务动机阻碍了有效的监管，认为“定制的企业治理安排无法解决这个问题。”

信件还警告称，无监管的AI存在危险，包括虚假信息的传播、独立AI系统的丧失以及现有不平等的加剧，这可能导致“人类灭绝”。

研究人员发现，OpenAI和微软等组织开发的图像生成器在照片中包含了与选举相关的欺骗内容，尽管有规定禁止此类内容。而且，AI企业对于与政府分享其系统的能力和局限性方面有着“有限的责任”，并且不能指望他们自由地这样做。

信件中饱含着这些员工对于AGI技术安全性的担忧，因其可以快速、廉价地生成类似人类的文字、图像和音频。该团体要求AI企业建立一个框架，供现任和前任员工提交与风险相关的问题，而不是强制实施禁止批评的保密协议。