佐治亚理工学院的研究人员正在努力开发一种由人工智能(AI)驱动的新软件工具，以解决数字安全和家庭暴力等研究不足的领域。
这些领域经常与滥用者重叠，滥用者经常使用互联网和移动技术来扩大他们的滥用范围。然而，这些网络攻击的规模较小，导致安全研究人员的关注较少。
首席研究科学家考特尼·克鲁克斯(Courtney croooks)和研究生斯尼哈·塔尔沃克(Sneha Talwalkar)正在努力以认知安全领域最近取得的进展为基础，为家庭暴力的幸存者带来救济。
作为一名有执照的心理学家和研究人员，克鲁克斯多年来一直在研究和实践家庭虐待，也被称为亲密伴侣暴力(IPV)对公众健康的影响。
在看到新技术如何开启新的在线虐待方法后，克鲁克斯意识到，她可以利用自己在佐治亚理工学院研究所、佐治亚理工学院网络安全和隐私学院以及埃默里大学医学院的工作经验，帮助填补这一研究领域的空白。
为了得到他们想要的，施虐者试图通过认知操纵和使用不同的策略来改变受害者的心理状态。克鲁克斯决定探索帮助IPV幸存者在康复过程中抵御这些增强的技术支持的认知安全风险的方法。
克鲁克斯和Talwalkar正在开发的软件将利用众所周知的、适合发展的、基于心理的学习策略，提醒幸存者注意这些潜在的或观察到的虐待行为。该工具将仅侧重于IPV幸存者面临的独特风险。将以人为本的设计原则和道德标准应用于人工智能设计将是团队的首要任务。
该团队正在努力开发人工智能辅助干预措施，这些干预措施具有心理信息，并专门针对幸存者面临的独特风险。这些干预措施将与传统的支助方法一起进行，例如精神卫生和社区资源。
“重要的是要明白，虐待关系是复杂的。虽然有些人可以逃脱，但很多人无法逃脱。”“或者他们可能会逃离，但他们的手机、在线账户或财务等资源可能仍然容易受到施虐者的攻击。幸存者可能还需要继续与施虐者沟通，比如他们共同拥有孩子的情况。”
无论情况如何，幸存者一旦逃离这段关系，就很难停止与施虐者的沟通。这种无法断绝关系的原因是，当他们和前伴侣在一起时，他们的心理联系得到了加强。
克鲁克斯和Talwalkar提出的人工智能技术不会像ChatGPT聊天机器人那样运作。相反，它会像教练一样，从虐待行为策略和潜在的幸存者反应中学习。
然后，该工具将根据每个用户的具体恢复进度和目标提出建议，同时考虑潜在风险。为了提高其指导性能和一般知识基础，人工智能将继续从幸存者面临的每个事件的结果中学习。
Talwalkar说:“该模型提供了必要的干预措施，以帮助IPV幸存者康复。”“我们希望利用人工智能做好事，而这个项目是朝着这个方向迈出的一步。”
SCP硕士课程的课程对Talwalkar在这一领域的研究起到了关键作用。在探索互联网审查和语言模型时，她认识到人工智能在安全方面带来的新挑战。在与SCP教授Peter Swire进行了一次深刻的对话后，Talwalkar获得了将她的注意力转移到沉浸式环境中调查恶意意图的信心。在克鲁克斯的指导下，她开始探索IPV的社会技术环境。
“设计以用户为中心的人工智能来帮助家庭暴力的恢复”作为扩展摘要被接受，并在今年夏天的2023年世界计算机科学、计算机工程和应用计算大会上发表。《IEEE学报》将在即将出版的一期上发表这项工作。期刊信息:IEEE学报
由佐治亚理工学院提供
引用:为家庭暴力幸存者提供的新资源结合了人工智能、网络安全和心理学(2023年9月28日)，2023年9月29日检索自https://techxplore.com/news/2023-09-resource-domestic-abuse-survivors-combines.html
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
