多部门行业限制在工作中使用ChatGPT

0
(0)

香港大学日前向师生发出内部邮件,表明禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具,成为香港首间大学明文禁止在课堂等教学行为使用ChatGPT或其他人工智能工具。

香港大学副校长何立仁在内部邮件中指出,禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具,除非学生事先获得有关课程讲师的书面同意豁免,否则将被校方视为剽窃个案,并指若没有书面许可,ChatGPT和其他基于AI的工具一律不能用于任何涉及学分的活动,如教师怀疑学生使用ChatGPT或其他AI工具,可要求学生就其作业进行讨论、进行额外口试及考试等措施。

由于对敏感数据暴露越来越感到紧张,华尔街开始限制员工使用ChatGPT。据媒体最新报道,摩根大通已限制其员工使用ChatGPT聊天机器人。此前拥有70多万员工的科技咨询公司埃森哲也警告员工不要将客户信息暴露给ChatGPT等聊天工具。

近几个月来,ChatGPT成为了一种互联网现象级焦点,从莎士比亚风格的诗歌创作到创建股票投资组合,它的未来潜力引发了人们的热议。有分析认为,ChatGPT将对多个行业产生影响,华尔街似乎也不能例外,从财务规划到股票交易,ChatGPT将从多个方面影响华尔街。

ChatGPT引发人工智能浪潮,苹果、亚马逊、Meta、谷歌、微软、英伟达,谁能占据上风?

一些公司已经开始尝试使用这类工具来提高工作效率。然而,数据安全和法律专家表示担心,与聊天机器人共享的信息可能会被用于微调它们的算法,或者可能被付费检查其答案的外包工人访问。

受到严格监管的银行和金融机构纷纷在员工使用这项新技术时设置了护栏。分析称,银行和金融机构对引进任何新技术的谨慎态度都是可以理解的。

在2021年和2022年期间,美国监管机构向12家银行发放了总计超过20亿美元的罚单,原因是它们的员工未经授权使用私人短信服务。

还有人担心聊天机器人的准确性。虽然聊天机器人被设计成能写出类似人类的句子,但它们很难区分事实和错误信息。它们也可以被哄骗提供看似精神错乱的答案,比如威胁测试这项服务的人类,或者出现完全荒谬的回答。微软的搜索聊天机器人Bing就在其官方发布活动中被发现提供了完全不准确的答案,而微软团队却没有发现,例如在被要求总结财务收益新闻稿时编造数字。

据媒体报道,上个月,出于隐私考虑,亚马逊警告员工不要与聊天机器人分享机密信息。亚马逊的一名律师警告员工:“我们不希望它的输出包含类似我们的机密信息(我已经看到它的输出与现有材料非常相近的例子)。”安全专家敦促在向人工智能聊天机器人提供数据时要谨慎。

与大型银行和金融机构合作监控内部安全风险的技术公司Behavox的发言人表示:“在过去一个月里,客户对ChatGPT的使用提出的担忧呈上升趋势,特别是在涉及使用私人或专有数据时。”

律师事务所Mishcon de Reya的数据保护专家Jon Baines表示,还有人质疑,如果该软件大量提供不准确的信息,使用ChatGPT的公司是否有违反数据法的风险。

Baines表示:“如果机器人的输出涉及个人数据处理,那么问题就来了,这种不可避免的不准确处理在多大程度上可能违反了《通用数据保护条例》(GDPR)要求准确处理个人数据的规定。”


据报道,近日,沃尔玛向员工发出明确指令,要求不得将任何与沃尔玛相关的信息分享至ChatGPT等生成式人工智能系统内。在发给员工的内部邮件中,沃尔玛负责技术和软件工程的部门沃尔玛全球科技表示,“在注意到给公司造成风险的活动之后”,该部门此前屏蔽了ChatGPT一段时间。“随后,我们花时间评估和制定了一套关于生成式人工智能系统的使用指南,目前已经在沃尔玛内部网络中开放了ChatGPT的使用。”

关于该公司何时屏蔽了ChatGPT,以及所谓的有风险活动是什么性质,沃尔玛发言人没有做出回应,仅仅在声明中称:“大多数新技术既能带来新的帮助,也会制造新的风险。对我们来说,评估这些新技术并向员工提供使用指南是常见的举措。”

在新的指南中,沃尔玛告诉员工,应该“避免在ChatGPT中输入任何敏感、机密或私有的信息”,例如财务信息、战略信息,以及关于购物者和员工的个人信息。邮件还称,员工“不应该在这些工具中输入有关沃尔玛业务的任何信息,包括业务流程、政策或战略。”

邮件表示,在接受系统提供的信息之前,沃尔玛员工必须对这些系统的输出进行评估。员工不应该将软件代码剪切或复制到这些工具中,也不应该使用这些工具来编写新的代码。

根据邮件,“将沃尔玛的信息输入这些工具中可能会暴露公司的情况,可能违反保密协议,并可能严重损害我们对代码、产品、信息或内容的权利。每一名员工都有责任以正确的方式使用和保护沃尔玛的数据。”

在邮件的最后,沃尔玛表示,ChatGPT“可以提高效率,带来创新”,但这些生成式人工智能工具必须以“适当的方式”去使用。

近期,关于将机密信息输入ChatGPT,亚马逊和微软等公司也向员工发出类似的警告。

点击星号评分!

平均分 0 / 5. 投票数: 0

还没有投票!请为他投一票。

评论 抢沙发

评论前必须登录!

 

登录

找回密码

注册