警告:OpenAI研究人员发现强大AI可能对人类构成威胁

发表时间: 2023-11-23 18:06

在OpenAI首席执行官萨姆·奥特曼被解雇前,几名研究人员向公司董事会发出了一封信,警告说一项强大的人工智能发现可能威胁到人类。这个被称为Q*的人工智能模型能够解决某些数学问题,这种征服数学的能力意味着人工智能将拥有类似于人类智能的更强推理能力。一些OpenAI员工担忧在将这种先进的人工智能模型商业化时没有适当的保障措施。据了解,Q*模型是OpenAI在超级智能领域的一项突破。一些内部人士认为这项突破可能会对人类造成潜在威胁,因为它使人工智能的推理能力更接近人类水平。正因如此,一些OpenAI员工对于商业化这种先进的人工智能模型表示担忧,他们认为公司需要采取额外的保障措施来确保安全。

面对人工智能的高速发展,我们该何去何从?在欣赏科技带来的便利的同时,我们是否该对科技发展保持一定的警惕呢?