GPT-4V 学会自动独揽电脑比特派官网电话，这一天终于照旧到来了。

只需要给 GPT-4V 接入鼠标和键盘，它就能凭证浏览器界面上网：

致使还能快速摸明晰“播放音乐”的播放器网站和按钮，给我方来一段 music：

是不是有点细想极恐了？

这是一个 MIT 本科生小哥整出来的新活，名叫 GPT-4V-Act。

只需要几个简单的器用，GPT-4V 就能学会鸿沟你的键盘和鼠标，用浏览器上网发帖、买东西致使是玩游戏。

如果用到的器用出 bug 了，GPT-4V 致使还能坚忍到、并试图措置它。

来望望这是若何作念到的。

GPT-4V-Act，内容上是一个基于 Web 浏览器的 AI 多模态助手（Chromium Copilot）。

它不错像东谈主类相同用鼠标、键盘和屏幕“巡视”网页界面，并通过网页中的交互按键进行下一步操作。

要完竣这种恶果，除了 GPT-4V 之外，还用到了三个器用。

一个是 UI 界面，不错让 GPT-4V“看见”网页截图，也能让用户与 GPT-4V 发生交互。

这么，GPT-4V 就能将每一步运转想路皆通过对话框的模样响应出来，用户来决定是否要接续让它操作。

另一个是 Set-of-Mark Prompting（SoM）器用，让 GPT-4V 学会交互的一款器用。

这个器用由微软发明比特派官网电话，标的是更好地对 GPT-4V 进行教导词工程。

比较让 GPT-4V 径直“看图谈话”，这个器用不错将图片关键细节拆分红不同的部分，并进行编号，让 GPT-4V 有的放矢：

关于网页端亦然如斯，Set-of-Mark Prompting 用访佛的形态让 GPT-4V 知谈从网页浏览器的哪个部分找谜底，并进行交互。

终末，还需要用到一个自动标注器（JS DOM auto-labeler），不错将网页端系数能交互的按键标注出来，让 GPT-4V 决定要按哪个。

一套历程下来，GPT-4V 不仅能准确判断图片上的哪些内容合适需求，还能准确找到交互按键，并学会“自动上网”。

这是个大名目，当今还只完竣了部分功能，包括点击、打字交互、自动标注等。

接下来，还有其他的一些功能要完竣，举例试试 AI 打标器（当今网页端的交互照旧通过通过 JS 接口得知那处能交互，不是 AI 识别的）、以及教导用户输入翔实信息等。

此外，作家也提到，现阶段 GPT-4V-Act 用法上还有一些需要谨慎的场所。

举例，GPT-4V-Act 可能会被网页通达后狂风暴雨的弹窗小告白给“整懵了”，然后出现交互 bug。

又举例，当今这种玩法可能会违犯 OpenAI 的居品使用轨则：

是以用的时候也要低调少量（doge）

这个名目在网上发出后，眩惑了不少东谈主的围不雅。

像是小哥用到的微软 Set-of-Mark Prompting 器用的作家，就发现了这个名目：

还有网友提到，致使不错用来让 AI 我方读取考证码。

这个在 SoM 名目中提到过，GPT-4V 是能见效解读考证码的（是以以后可能还真不知谈是东谈主照旧机器在上网

）。

与此同期，也有网友照旧在联想桌面流自动化（desktop automation）的操作了。

对此作家恢复称：

美元现货指数连续第八周上涨，这是自2005年以来最长的连续上涨。这一上涨使其14天相对强弱指数突破70，华尔街的一些人认为这是市场超买的迹象。周五美元几乎没有变动。股市仅出现小幅波动，标准普尔500指数在连续三天下跌后小幅走高。英伟达和特斯拉给巨型股带来压力，而苹果在iPhone 15、新款智能手表和最新AirPods发布前几天遭遇暴跌，市值蒸发1900亿美元，周五则有所反弹。

李兰娟的名字于武汉这座城市而言，或许并不陌生。

A股三大指数今日小幅收跌，沪指跌0.18%，深证成指跌0.38%，创业板指跌0.35%，市场成交额继续萎缩，今日仅有6818亿元。华为概念股表现活跃，航天航空、通信设备、船舶制造、半导体、光学光电子板块涨幅居前。

近日，一些投资者就遭遇了近乎以假乱真的冒充某家头部券商骗局，直接收到骗子发来的包裹传单，号称中秋感恩回馈抽奖，最高奖项可获得价值9.9万元五菱宏光MINIEV，同时，内含投顾人员二维码，并配有中证协相关从业者真实截图，令投资者吃惊。

强势美元之下，欧元也正在遭遇巨大的贬值压力。自7月中旬以来，欧元兑美元汇率已连跌八周，累计贬值幅度已超5%。关键时刻，汇丰突然180度大转弯，在最新的报告中指出，由于欧洲经济增长放缓，预期2024年第一季度欧元兑美元汇率将跌至1.03，之前的估计为1.15。

然而，期货市场一些深层次的结构性问题尚未得到有效解决，市场运行质量、制度规则配套、交易者结构、价格影响力等还存在短板不足。在新形势下如何有效防止市场出现过度投机，已成为重要课题。

不外当今 GPT-4V 照旧要收费的，有莫得其他的完竣圭臬？

作家也默示，当今还莫得，但如实可能会尝试 Fuyu-8B 偶然 LLaVAR 这么的开源模子。

免费的自动化桌面流 AI 助手，不错期待一波了。

参考流畅：

本文来自微信公众号：量子位 （ID：QbitAI），作家：萧箫

etc比特派

告白声明：文内含有的对外跳转流畅（包括不限于超流畅、二维码、口令等模样），用于传递更多信息，省俭甄选时候，收尾仅供参考比特派官网电话，IT之家系数著述均包含本声明。

　　声明：新浪网独家稿件，未经授权绝交转载。 -->