屡禁不止!AI生成“裸体图片”席卷澳洲社交媒体,知名学校被卷入!专家深感担忧
专家警告说,目前没有针对AI生成“裸体图片”的应对措施。
上个月,维州一所高中九至十二年级的50名女生成为伪造裸体图片的目标,这些图片是利用人工智能和社交媒体照片(包括学校正式场合的图片)制作的。
这起被维州长Jacinta Allan抨击“可耻”的事件发生在墨尔本西部Bacchus Marsh Grammar的学生身上。一名17岁的前男学生受到警方警告,调查结束。
在另一起事件中,一名女教师成为5月份在墨尔本东南部Salesian College流传的虚假性图片的目标。一名15岁的男学生被开除。
莫纳什大学犯罪学副教授Asher Flynn说,这些未经同意的图片伪造事件不足为奇。
“我们需要小心谨慎,不要为相关人员开脱不尊重他人、性别歧视的行为,在很多情况下甚至是虐待行为。”她说:“工具存在并不意味着我们选择使用它来伤害他人就没有责任。”
6月份出台的联邦立法规定了新的刑事罪名,禁止分享未经同意的深度伪造敏感材料。
总检察长Mark Dreyfus当时表示:“此类行为绝大多数针对女性,延续了有害的性别刻板印象,助长了性别暴力。”
Tom Harkin经常看到性别方面的问题。
Harkin先生走进全国各地的学校,在男女生班上分别对他们进行人际关系教育。
这位有两个孩子的父亲说,父母在孩子与谁交往、上哪所学校等问题上花费了很多精力和心思,但在网上,孩子们却自由自在。
“他们在这些不受监管的(网络)环境中,对生活、对性别的看法完全被扭曲了。”
“像Bacchus Marsh这样的事件发生后,焦点往往集中在男性肇事者身上。”
“这些年轻女性的生活经历是怎样的,她们的生活受到了怎样的影响,她们还好吗?”
他说,社会对学生观看的有害色情制品一无所知。
“一些十几岁的男孩每周都会多次接触到支配(女性)、虐待女性的内容。”
“在性生活中犯罪性扼杀的比率有所上升。”
数字人工智能工具可以将这些厌恶女性的态度转化为犯罪行为,但却几乎无法遏制。
数字安全专家David Fairman说,家长或学校对设备的控制根本无法覆盖现有的约2万种人工智能工具。
Netskope首席安全官说,不断跟踪、分类和在必要时审查新的人工智能工具是一场"军备竞赛"。
“没有灵丹妙药,因此,如果你是一个怀有恶意的人,总有办法利用系统。”
Netskope与公司和学校合作,确定在其网络中使用了哪些人工智能,这并不是明确禁止人工智能,而是帮助组织决定如何将人工智能融入其实践中。
Netskope在两年前就开始了一项持续的网络欺凌检测计划。
“家长们可以开始研究并开始利用一些能力。但同样,这只是大拼图中的一块。” Fairman先生说。
“我认为,对下一代进行道德和伦理教育是一件大事。”
维州于2022年通过了《深度伪造色情法》,对制作和传播此类材料的行为进行惩罚。
维州警方Brimbank性犯罪和虐待儿童调查小组对Bacchus Marsh事件进行了调查。警方发言人拒绝详细说明该小组对此案的“调查”。
当时,Bacchus Marsh Grammar表示,学校“非常重视此事”,并已与警方取得联系。
“这件事影响到50多名女生。”校长Andrew Neal说。
“这不是Bacchus Marsh Grammar的问题。这是全国每所学校的问题,实际上是任何地方的每所学校的问题。”
编译:Levy
来源:News.
↑ 滑 动 查 看 更 多 图 片,扫码观看↑
微信扫码关注该文公众号作者