人工智能并非中性技术
2020年第1期 1211 < 返回目录
随着人工智能应用日益广泛,专业人士需要了解算法存在的潜在偏见,以应对其所带来的道德挑战。

  人工智能隶属于计算机科学范畴,通过开发技术和算法来模拟人类智能。借助这些技术和算法,机器能够像人类一样行为、学习、推理和自我纠正。人工智能应用于商业所引发的潜在变化,堪比电力给人类社会带来的变化。正如《战略财务》杂志此前刊登的几篇文章[如《了解智能机器》(Understanding Smart Machines),bit.ly/36kypkD]中提到的,人工智能有望从根本上改变管理会计师收集、使用和报告信息的方式。因此,一方面,为了能从人工智能等通用技术中获益,管理会计师必须使自身技能适应日新月异的环境;另一方面,也必须意识到,人工智能并非中立技术,会对基于管理会计和财务领域相关原则与标准的职业道德实践构成挑战。
 
人工智能冲击道德原则
  与其他技术和工具相比,人工智能所具有三个特征,会加剧了其潜在的不道德倾向。这三个特征分别是:基本决策标准方面缺乏可控性,对意外后果缺乏责任感,以及缺乏明显的显性成本。正是这三个特征导致一些人低估人工智能对道德的影响。
  首先,人工智能通常被描述为“黑匣子”,因此,很难评估人工智能是否被正确使用。这意味着难以对人工智能通过机器学习或人工神经网络技术产出的结果进行解释,而机器学习和人工神经网络本是为了复制人类的大脑机能[参阅《黑匣子里的机器偏见》(Machine Bias inside the Black Box),bit.ly/2PsJD0p]。相较于人工智能,人类可以提供支持判断和行动的理由。
  其次,无法解释人工智能出现错误的原因,而且通常也很难发现人工智能出现的错误。与此相对照的是,人类总是有可能通过社会互动、个人评估或组织的控制系统发现决策过程中的缺陷。
  最后,人工智能为复杂的问题提供价格合算的解决方案,这可能导致一些人夸大人工智能应用的价值。与此相对照的是,投入认知资源来制定决策会让人们更加重视对解决方案的评估,但通常无人质疑人工智能的产出结果和决策。
  这三个特征冲击了IMA《职业道德守则公告》中规定的管理会计师在其工作中必须坚持的道德原则:诚信、公平、客观和负责。
  诚信:组织在实施人工智能项目时往往速度过快,透明度不足,这带来了一个挑战:信息传播过程中能在多大程度上保持诚信。人工智能依靠大数据分析来执行复杂分析,后者包含了多种因素。然而,这也引起了对数据所有权和数据传播,以及随之而来的数据分析诚信问题的高度关注。
  公平:为了推导问题的答案而分析的数据集的大小程度,不一定能反映程序的公平性。非常大的数据集仍有可能无法展现全貌,主要基于这两个原因:首先,当前的数据可能无法反映未来趋势,因此,忽视那些目前没有普遍代表性的因素是不公平的;第二,最主要的因素可能并非最重要的,如此,忽略或低估历史上缺乏代表性的因素就有违公平性,因其可能会加剧偏见并导致歧视等严重的意外后果。
  客观:人工智能所使用工具的计算能力以及参数变化方面缺乏灵活性,限制了人工智能解决方案的可比性。人工智能技术的监管框架,应定义一套各方均认可的价值观和规则,以增强人工智能解决方案的可比性。例如,国际会计师职业道德准则理事会(IESBA)修订了《职业会计师道德守则》,以应对人工智能等新技术带来的挑战。
  负责:人工智能产出结果的不可解释性以及与之相关的意外后果,对组织的问责程度提出了挑战,因为很难将人工智能产出结果归责于任何个人。个人乃至组织都在努力承担与他们无法完全控制的流程相关的责任。


行动方案
  《IMA管理会计能力素质框架》为管理会计师应对人工智能发展所带来的挑战,提供了行之有效的路线图。
  首先,该框架强调能力素质是在快速变化的技术环境中取得成功的关键要素。能力素质是一项关键的专业标准,要求管理会计师“通过增进知识和技能,来保持适当的专业领导力和专业知识水平”。这是应对人工智能所带来的风险与成本并从中获益的必要之举。专业人士若能在这一过程中调整自身能力,助力人工智能的设计、实施和应用,将能使其组织获得人工智能解决方案优势,同时避免潜在的陷阱。
  但这种能力素质若不能遵循诚信这一道德原则,最终会失去其效用,甚至可能贻害无穷。正如《IMA管理会计能力素质框架》所指出的,在管理会计能力素质的发展过程中融入强大的职业道德和价值观,并指导和教育管理会计师在其职业中履行诚信、公平、客观和负责的道德原则,是至关重要的。
  管理会计师必须制定适用于人工智能算法设计的道德原则,认识到人工智能软件开发中所隐含的道德问题,并处理因实施人工智能解决方案而引起的道德意外事件。能力不是道德的替代品。只有先进的技能和强大的道德原则相结合,才能帮助管理会计师应对非中立的人工智能发展所带来的巨大道德挑战。



                        

Lorenzo Patelli,博士,丹佛大学企业道德研究所(Institute for Enterprise Ethics)临时所长、丹尼尔商学院会计学副教授,也是IMA道德委员会成员。联系方式:lorenzo.patelli@du.edu。


郭莉 译,郭强 校

< 返回目录