【大型语言模型缺乏人类理解能力】
- 近年来，ChatGPT等大型语言模型(LLM)在语言处理方面取得了巨大进步，能回答问题、写作等，但它们是否真正“理解”自己在说什么还存在争议。
- 一些研究人员声称LLM具有理解能力、推理能力甚至意识，但Mitchell等人则认为它们不具备真正的理解能力。
- LLM只是预测下一词出现的概率，不能对新情况进行概念抽象和类比推理，这是人类理解的核心。
- LLM在训练过的情况下表现良好，但一旦应用到新的字母表或符号上，就无法解决类似的问题，说明其无法泛化概念。
- 人类是从概念到语言，LLM则是从语言到概念，这与人类获得智能的方向相反。
- LLM现阶段并不具备像人类一样的对世界的理解，真正的机器理解可能需要不同的方法。
- LLM的进步令人印象深刻，但不应误认为它们已获得人类式的理解能力。还需要进一步研究才能达到真正的语义理解。
《Why large language models aren’t headed toward humanlike understanding》
网页链接 #机器学习# #人工智能#
- 近年来，ChatGPT等大型语言模型(LLM)在语言处理方面取得了巨大进步，能回答问题、写作等，但它们是否真正“理解”自己在说什么还存在争议。
- 一些研究人员声称LLM具有理解能力、推理能力甚至意识，但Mitchell等人则认为它们不具备真正的理解能力。
- LLM只是预测下一词出现的概率，不能对新情况进行概念抽象和类比推理，这是人类理解的核心。
- LLM在训练过的情况下表现良好，但一旦应用到新的字母表或符号上，就无法解决类似的问题，说明其无法泛化概念。
- 人类是从概念到语言，LLM则是从语言到概念，这与人类获得智能的方向相反。
- LLM现阶段并不具备像人类一样的对世界的理解，真正的机器理解可能需要不同的方法。
- LLM的进步令人印象深刻，但不应误认为它们已获得人类式的理解能力。还需要进一步研究才能达到真正的语义理解。
《Why large language models aren’t headed toward humanlike understanding》
网页链接 #机器学习# #人工智能#
