我妈今天上午十点多给我打电话,说接到我儿子哭着喊奶奶的电话,说在学校出事了让她赶紧打2万块到一个账户上,还说不要告诉爸妈怕他们担心。我妈当时就慌了准备去银行。 我赶紧给班主任打电话,我儿子好好的在上数学课根本没事。但我妈坚持说那个声音就是我儿子,哭得很厉害,还叫她奶奶,连说话的语气都一模一样。 我现在就想问,AI技术真的能模仿到小孩哭喊的声音吗?我儿子才9岁,骗子怎么会有他的声音?是不是我妈平时发的那些视频被人用了?我该怎么跟我妈解释这个事,她现在还心有余悸说那个声音太像了。...
我妈今天上午十点多给我打电话,说接到我儿子哭着喊奶奶的电话,说在学校出事了让她赶紧打2万块到一个账户上,还说不要告诉爸妈怕他们担心。我妈当时就慌了准备去银行。
我赶紧给班主任打电话,我儿子好好的在上数学课根本没事。但我妈坚持说那个声音就是我儿子,哭得很厉害,还叫她奶奶,连说话的语气都一模一样。
我现在就想问,AI技术真的能模仿到小孩哭喊的声音吗?我儿子才9岁,骗子怎么会有他的声音?是不是我妈平时发的那些视频被人用了?我该怎么跟我妈解释这个事,她现在还心有余悸说那个声音太像了。另外那个账户我要不要报警?
楼上说得挺详细了，我也补充一点。现在这种AI冒充熟人求钱的案例挺多的，尤其是用对方以前发过的视频或者语音做训练，声音能还原得特别像。有时候不光声音，连哭喊都有可能伪造出来，听得更让人心慌。你妈这时候能识破已经不容易了。那个账户果断报警，尽快把情况提交给警方，避免更多人被害。总之，亲戚之间有点暗号或者事先商量好遇事先核实，对付这种套路会更保险。
听你说的，这种骗局真是越来越高级了。我前两天也看到有人说，AI 换脸和音频合成现在能做到声音哭得很逼真，尤其是有平时录音或者视频素材的话。不过我妈那边没录过我声音，他们声音也都正常，没试过被这样假冒，真是吓人。你家这种情况我觉得绝对报警，别让骗子逍遥法外，账户信息也一定要提供给警方，别自己私下转账。你跟你妈多沟通，慢慢让她明白现在技术太厉害，不能完全相信听到的声音了。你们家情况稳住就好，但真别大意了…
我去，这种事现在真的太猖狂了。AI 换声音早就能做到了，你儿子平时在家说话、哭闹的视频，奶奶的朋友圈里可能都有，骗子就是这样扒下来的音频再拼接合成。9 岁小孩的声音特征其实很容易被模型学到，加上哭声本身音质会变，你妈更分不出来。
关键是这帮人还知道你妈和你儿子的关系，知道该说哪些细节才能唬住人。建议你先陪你妈看看那个账户的交易记录查一下能不能溯源，然后把这个骗局转发给她的微信群或者亲戚朋友们，让大家都防范一下。至于报警，有账户信息的话确实可以报，说不定能帮别人。最后跟你妈约个暗号吧，以后接到这种紧急求助电话，不管多像都先问暗号再说，这是现在最管用的办法。
哎，这事现在太常见了，AI声音克隆早就不是新鲜事，小孩哭喊那种调调他们随便就能搞出来。你妈听起来像很正常，别信。赶紧跟她解释清楚，别让她转账，先打你儿子平时那个号确认一下。那个账户报警也行，但重点是别再理微信了。
