AIの出した答えを信じますか

Deep Learningが騒がれ出したころ、どうしてもその効果を試したくて、勝馬予測に使ってみたことがありました。JRAが過去10年間以上の全ての国内レースのデータを無料公開していたので、そちらを利用させて頂きました。（現在は、無料ではないようですが。）で、その年の秋のG1レースを予測してみたのです。

データとしては、馬番号/コース/周回/距離/馬場状態/賞金/頭数/着順/枠順/性別/年齢/騎手/上がり３F/斤量/馬体重/増減/オッズなどあり、地方競馬も含めると延べ19万頭分のデータがありました。レース毎に、1位、2位に入った馬を正解として、GoogleのTensorflowを用いて、教師あり学習をさせました。その学習済モデルを使って、行われるG1レースのデータを入力してAIに予測をさせたのです。ご存知かもしれませんが、G1レースは、日曜日に行われ、その日の朝に最新の出頭馬やコースの状況などが公開されます。そこでその年の秋は、G1レースがある日曜日には、出勤をしてAI予測をだしてから、その結果を踏まえ、職場の近くにあった場外馬券売り場へ行くと云うことをしていました。日曜日に職場へ入館すると、その記録が残ってしまって、入館理由みたいなものを記入しなければならなかったので、いつも「自己研鑽」とかにしていました。どうせ休日出勤など申請できる訳もありませんでしたから。
結果としては、前半のロスが大きく、後半には盛り返して来たのですが、全体としてはロスでした。一つには、馬券の買い方を知らなかったと云うところがあります。単勝、複勝まではいいとして、ワイド、3連複、3連単など、まあ、色々とあるものだと感心していました。やはりAIの出した答えを上手く馬券購入に反映させると云う点で後半の方が慣れて来たと云うことだと思います。

で、問題なのは、AIの出した答えを信じて良いのかどうかという点でした。これは、個人の問題かもしれませんが、どうみてもAIが間違っているだろうなどと悩みだすと、結果的には正解だったのに、違う馬券を買ってみたりして、後で大変に後悔したことがありました。もちろん、逆に、AIを信じて買った馬券が外れると云うことも多々ありました。
まだ、遊びの馬券だからいいものの、今後ますます重要な判断をAIがするとなると、その結果を鵜呑みにして良いのかどうか、悩ましいところだと思われます。今のところは、AIの正解率が高いと云うことがもてはやされているようですが、これからは、AIが間違っていた時のリスクを許容できるのかどうか考えて行く必要がありそうです。
以上