【简介】 本文是一篇独家专访文章,采访对象是OpenAI联合创始人、首席科学家Ilya Sutskever。文章回顾了Ilya Sutskever过去二十多年和人工智能的故事,以及他对未来人工智能的担忧和看法。
【核心内容】 Ilya Sutskever对未来人工智能的担忧和看法包括:
- 阻止无赖的超级人工智能:他认为目前的首要任务是弄清楚如何阻止无赖的超级人工智能,并希望OpenAI能够提出一套故障安全程序来构建和控制这项未来技术。
- 人类与机器融合:他认为总有一天一些人会选择与机器融合,ChatGPT已经改写了很多人未来的期望,将“永远不会发生”变成了“会比你想象的更快”。
- 机器学习研究人员需要超对齐:他认为现有的对齐方法不适用于比人类更聪明的模型,因此需要提出一套故障安全程序来构建和控制这项未来技术。
- 人类生存空间问题:在拥有更智能人工智能的世界里,人类还有生存空间吗?他认为人类可能会选择成为人工智能的一部分,但需要克服流氓人工智能的挑战。
此外,文章还提到了Ilya Sutskever在人工智能领域的成就和贡献,包括他在神经网络方面的研究、OpenAI公司的成立和发展、以及他对未来人工智能的看法和愿景。