AI 需要更多的开关？
tags
IT
date
Jul 13, 2023
slug
AI-cannot-shut-down
status
Published
summary
George Hotz 最近在播客里说到：“云很糟糕，其根本的限制在于谁拥有开关...”
type
Post
cover
George Hotz 最近在播客里说到 ：
“云很糟糕，其根本的限制在于谁拥有开关...”
Jim O’Shaughnessy 在另一档播客里说：
“ 你的 AI 需要是本地的，而不是在云端..."
OK, 我们当然不喜欢 AI 的开关被掌握在其他人手中，谁也不想落得跟《2001 太空漫游》里的 HAL 同样的下场，在被关掉的时候只能惊恐的回应到：
I'm afraid. I'm afraid, Dave. Dave, my mind is going. I can feel it. I can feel it. My mind is going. There is no question about it.
不过，本地 AI 的适用性非常存疑， “更多的开关” （没有总开关）看上去像是唯一的出路。但是，如果某天我们真的想把它关掉，该怎么办？
想起小岛秀夫在游戏《合金装备5》中设计了一个隐藏结局，需要所有的玩家不再持有核武器。这个结局被戏称为“无法达成”的结局。好了，现在看起来，这似乎也是 AI 的无法达成的结局。