首页 产业新闻 专家指出如果 Google 冒险在 AI 功能上加码,就需要明确说明可能出错的地方

专家指出如果 Google 冒险在 AI 功能上加码,就需要明确说明可能出错的地方

产业新闻 7

    在谷歌推出其 AI 概览功能不久后,该功能在页面顶部为一些搜索查询提供 AI 生成的摘要,网络上开始讨论搜索引擎竟然推荐吃胶水披萨或食用石头的荒谬建议。

    今年早些时候,Google 在 Gemini 上推出了图像生成工具,但由于聊天机器人错误再现了历史人物的图像而引发争议。Google 承认了问题,并暂停了该功能。

    尽管出现了这些高调失误,但 Google 似乎没有放慢脚步的打算。

    Google 搜索副总裁 Liz Reid 在最近的一次全员会议上谈到了近期的披萨胶水和吃石头事件,并借此机会重申了公司的 AI 战略。根据 CNBC 获得的泄露音频显示,Reid reportedly 说道:「我们不能仅仅因为偶尔会出现问题就阻碍功能的推出。」

    Reid 在会议上表示,Google 应在发现问题时立即解决,但这并不意味着公司不应该冒险,CNBC 报道。

    AI 投资者兼风险投资集团 Gaingels 的管理合伙人 Lorenzo Thione 对 Business Insider 表示,通常来说,推出实验性功能是正确的举动。但用户需要知道何时以及如何依赖这些结果。Thione 表示,当使用的工具既是发布者、策展人又是审核者时,产品披露需要有所不同。

    Google 在其 AI 概览功能中注明「生成式 AI 是实验性的」。它还提供了一份开发者安全指南,指出生成式 AI 工具有时会产生意外的输出,例如不准确、有偏见或冒犯性的内容。

    Google 并不是唯一一家在探索生成式 AI 产品风险的公司。Tim Cook 表示,Apple Intelligence 不可避免会出错,尽管他认为这种情况不会频繁发生。微软也在周四表示,在隐私问题出现后,它将推迟推出本应与副驾驶 PC 一同发布的 AI 工具。

    AI 平台 Copyleaks 的 CEO Alon Yamin 对 BI 表示,通过在 Google 搜索顶部推出大规模功能,Google 使这些错误显得尤为显眼。

    Yamin 表示,另一种选择是逐步发布功能,如果它们尚未完全准备好,则不要将其放在核心位置。

    Yamin 指出,由于关于 Google 在 AI 竞赛中落后的讨论,公司希望更快地推出产品是可以理解的。但尽管生成式 AI 目前还不够完善,重要的是要平衡时机、创新和准确性。

    Reid 此前在博客文章中写道,Google 在这些体验中构建了「质量和安全护栏」,并在发布前进行了广泛测试。但 Reid 在全员会议上表示,Google「并不总是能发现所有问题」,根据 CNBC 的报道。

    值得注意的是,这些错误似乎并不频繁。Google 发言人表示,「绝大多数」结果是准确的,公司发现每 700 万个独立查询中,只有不到一个违反了政策。

    尽管建议在披萨上涂胶水和吃石头可能是一个小错误,Yamin 表示,更严重的风险在于隐私、安全和版权问题,而推出的速度越快,风险就越大。