香港再现AI诈骗案，一公司被骗2亿港币。AI心理治疗聊天机器人登上自然杂志子刊

2024/02/06 Wednesday

💴香港再现AI诈骗案，一公司被骗2亿港币

上个星期Taylor Swift的Deepfake事件尚未结束，大洋彼岸的香港又遭遇了AI诈骗案，

近期，一位香港跨国公司员工遭受了一场高度精密的诈骗，骗子利用Deepfake技术冒充英国总公司高管进行视频会议，成功骗走2亿港币。据悉，在前期骗子利用虚拟邮件通知员工，声称总公司计划进行一笔机密交易，需要将公司资金转至香港本地账户。但见员工没有上当后，犯罪分子开了个视频会议，直接利用Deepfake技术模拟了高管团队的形象和声音。在看到熟悉的面孔后，员工果然中招，向数个香港本地账户总共转了2亿港币。而直到5天后，员工才发觉被骗。

香港警方透露，这起案件中，骗子采用了深度伪造技术，通过公司Youtube视频和其他公开媒体素材，伪造了高管的面容和声音。香港警方警告称，这种新型的深度伪造诈骗采用视频电话会议形式，以模拟真实高管团队，使可信度大幅提高。

此外，对抗深度伪造技术的研究也在不断发展。加州大学河滨分校的计算机科学家团队最近提出了一种检测深度伪造视频中被操纵面部表情的新方法，据称在两个具有挑战性的数据集上表现卓越，准确率高达99%。

📰AI聊天机器人登上自然杂志子刊

心理健康是全球范围内广泛存在的问题，但因为各种因素，访问心理健康服务受到诸多障碍的制约。

伦敦大学学院和艾伯哈德·卡尔斯蒂宾根大学的研究团队最近开发了一款名为Limbic Access的个性化自助聊天机器人，该机器人证明了数字工具对改善心理健康服务可及性的潜力。研究团队进行了一项涉及129,400人的观察性研究，发现Limbic Access的使用导致更多人，特别是少数群体，加入了国家卫生服务体系（NHS）的谈话疗法服务。

该研究结果发表在《Nature Medicine》上，题为“Closing the accessibility gap to mental health treatment with a personalized self-referral chatbot”（通过个性化自助转介聊天机器人弥合心理健康治疗的可及性差距）。

Limbic Access的独特之处在于其个性化设计，通过引导用户完成自我推荐流程，降低心理健康问题的社会污名。在英格兰14个NHS谈话疗法服务中心的在线门户上投入使用后，观察期内，使用Limbic Access的中心自我推荐数量增加了15％，而未使用该工具的中心仅增加了6％。

这一创新虽然在一定程度上取得了成功，尤其在少数群体中取得了积极成果。然而，受限于观察性设计、地区限制和对数字素养的考虑，该数字机器人还不够特别全面。希望未来有更多类似的机器人出现，进一步帮助更多人实现心理治疗。

🎓人工智能进课堂，哈佛大学利用AI辅导课程

哈佛大学引入AI工具改进CS50课程，为学生提供个性化“导师”服务。这套AI工具最初在夏季学校服务70名学生，后来扩展到数千名在线学生。工具设计旨在引导学生自主探索问题解决方案，避免直接提供答案。

通过将AI有策略地融入教学，哈佛实现了1:1的师生比例，提供个性化支持，提高学习效率。工具包括高亮代码解释、代码风格分析和CS50 Duck聊天机器人。CS50 Duck采用retrieval-augmented generation（RAG）技术，从外部数据源获取信息，减少幻觉。学生反馈显示，大多数认为工具有帮助，特别是47%的学生认为非常有用。尽管有些学生认为不受限制的提问更好一点，但哈佛认为应保持该机制，而随着工具将继续优化，RAG技术将发挥更大作用。