第一批因ChatGPT坐牢的人,已经上路了

2023年2月18日11:12:18 发表评论 1,620 °C
摘要

ChatGPT的火爆有目共睹,有人靠着它赚了第一桶金,也有人靠着它即将吃上第一顿牢饭。

大家好,我是 Jack。

ChatGPT 的火爆有目共睹,有人靠着它赚了第一桶金,也有人靠着它即将吃上第一顿牢饭。

任何一件东西的火爆,总会给一些聪明人带来机会。

艾尔登法环火的时候,一堆淘宝卖魂的;羊了个羊火的时候,一堆淘宝卖通关辅助的。

如今 ChatGPT 火了,当然还是少不了这些淘宝、咸鱼卖账号的。

不过这些东西,都是看谁手快,晚点就汤都喝不到了。

这不,淘宝、咸鱼都已经全部下架 ChatGPT 相关商品。但火爆的这几个月,每个月过万的销量,也委实赚了一大笔。

去年 12 月份,我出的那期 ChatGPT 视频教程,包括如何注册,分享出去之后,有心的一些读者小伙伴,就是靠着这个信息差,赚了一笔。

现在甚至还出现了,ChatGPT 训练营,教你玩赚 ChatGPT。

以上这些,都属于没什么技术含量,都是卖服务卖信息差的。

有一定开发能力的人,则是搞起了个人开发,开发聊天小程序:提供自动问答+陪聊套餐。

不过还是,各平台都开启了严格的监管,比如之前,我发过的微信接入 ChatGPT 的教程,也被官方统一删除了。

有人用火爆的技术赚合法的钱,就会有人为了追求更高的利益赚非法的钱。

比如前不久,外国网络安全平台 GBHackers 披露了一起诈骗行为:

网络黑客通过 ChatGPT 在短时间内生成了完整的诈骗话术,并把它包装成“虚拟角色”,让受害者误以为“坠入爱河”,最终遭受诈骗。

在 AI 的加持下,骗子们正变得比以往任何时候都更容易欺骗毫无戒心的受害者。

第一批因ChatGPT坐牢的人,已经上路了

一封用ChatGPT生成的情书

而这种诈骗还是属于入门级,

现在已有犯罪者,利用诸如 prompt injection 等方法,绕过 OpenAI 的安全限制。

此举能自由地操纵 ChatGPT 去编写犯罪程序,并且突破 ChatGPT 安全限制的应用已在美国暗网内公开出售。

甚至,还能利用 ChatGPT 做程序扒取。

比如,有个名为《ChatGPT——恶意软件的好处》的帖子,曾在国外黑客论坛上传播。

该帖子的作者分享了自己利用 ChatGPT 建立窃取程序代码的全过程,按照操作流程,ChatGPT 在短时间内即可生成一款可扒取、压缩、传输 12 类文件的程序。

更甚至还能生成各种病毒代码,勒索程序,钓鱼网站等等。

很显然,ChatGPT 让技术水平低一些的犯罪者掌握了更强大的犯罪手段。

犯罪门槛变低了,犯罪者们开始用人工智能入侵他人了。

所以,国内现在开始禁 ChatGPT 的相关内容,也是情理之中。

絮叨

技术是把双刃剑,在发展的过程中,怎样控制好它的使用范围很关键,合规性和数据安全,也必须保证。

除了 ChatGPT,还有 AIGC 相关的算法,一定也是一大利器。

最近看到了一个结合 ChatGPT 的项目:

第一批因ChatGPT坐牢的人,已经上路了

接入 OpenAI API key,虚拟人可以陪你聊天。

文本对话、语音识别、表情驱动。

项目地址:

https://huggingface.co/spaces/JavaFXpert/Chat-GPT-LangChain

话说,虚拟情侣,还远吗?

今天就聊这么多吧。

我是 Jack,我们下期见!

weinxin
微信公众号
分享技术,乐享生活:微信公众号搜索「JackCui-AI」关注一个在互联网摸爬滚打的潜行者。
Jack Cui

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: