足够智能以知道自己何时不够智能的系统
阅读评论
Josh Clark 以“我们的答案机器存在过度自信的问题”开头。也许您已经看到搜索结果(以任何形式)呈现出可怕的错误(或至少是“有争议的”)“答案”的例子。#假新闻。
无论我们以何种形式向用户提供搜索,它都倾向于这种方式。这是我们的首要结果,亲爱的用户!与之互动!我们的算法预测您不会后悔!当然,以这种方式呈现结果是有诱因的。
Josh 提出了一些难题
- 我们何时应该牺牲速度以换取准确性?
- 我们如何传达不确定性或模糊性?
- 我们如何识别敌对信息区域?
- 我们如何提供答案的上下文?
- 我们如何适应语音和其他低分辨率界面?
对此我可能要补充一点:我们能否找到使这些事情发生的商业激励?能否通过所有这些,做好一份如此出色的工作,从而吸引用户,赢得他们的信任,并使他们成为良好的客户?我担心快速、过度自信、无上下文的答案在短期内是更好的商业模式。