要旨

機械学習を含むAIは，新しい経済活動の駆動力として大きな期待を集めています．有用性や必要性といった光の面だけでなく，陰の側面・負の側面がAI脅威論として論じられています．ところが，技術的にも陰の面があり，機械学習の本質と検査の難しさが密接に関わります．「未知の入力データに対しても気が利いた結果を返す」ことは，品質保証の前提となる「プログラムの振舞いが予測可能」なことに反するからです．本研究は，機械学習ソフトウェアの特徴を技術的に整理し，社会実装する障害にならないような方法を考えます．

AI and machine learning (ML) is considered as an enabler of the third economic revolution. Both bright and somber sides are discussed, the latter of which sometimes refers to the AI threat. However, a certain down side is related intrinsically to ML technologies in that ML software is difficult to be validated. Returning appropriate answers even for unknown inputs, in a sense, conflicts with the requirements that programs behavior is predictable in order to conduct the quality assurance. The present work studies the characteristics of ML software and discusses ways for the ML software to be such enablers.