有什么是ChatGPT不能做的吗？是的，当然，但这个清单似乎越来越小了。现在，研究人员已经利用大型语言模型帮助他们设计和建造一个采摘番茄的机器人。大型语言模型（LLMs）可以处理和内化大量的文本数据，利用这些信息来回答问题。OpenAI的ChatGPT就是这样一个LLM。

研究人员提出了人类与人工智能合作可能产生的道德和常识性风险。他们指出偏见、剽窃和知识产权（IP）的问题是值得关注的领域，并质疑鉴于LLM生成的设计使用了现有的知识，它是否可以被视为'新颖'。

休斯说："在我们的研究中，ChatGPT确定西红柿是'最值得'追求的机器人收割机的作物。然而，这可能偏向于文献中涉及较多的作物，而不是那些真正有实际需求的作物。当决定是在工程师的知识范围之外做出的，这可能导致重大的道德、工程或事实错误"。

尽管有这些担忧，研究人员认为，如果管理得当，人类与人工智能的合作有很大的潜力。

研究人员说："机器人界必须确定如何利用这些强大的工具，以道德、可持续和社会授权的方式加速机器人的进步。展望未来，我们坚信，LLMs将开启许多令人兴奋的可能性，如果管理得当，它们将成为一种善的力量。"

该案例研究发表在《自然-机器智能》杂志上。