<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Loss on Yaohong</title><link>https://yh.timefriend.vip/tags/loss/</link><description>Recent content in Loss on Yaohong</description><generator>Hugo</generator><language>en-us</language><lastBuildDate>Wed, 25 Nov 2020 22:48:20 +0800</lastBuildDate><atom:link href="https://yh.timefriend.vip/tags/loss/index.xml" rel="self" type="application/rss+xml"/><item><title>Categorical Crossentropy源码分析</title><link>https://yh.timefriend.vip/post/machinelearning/losscategoricalcrossentropy/</link><pubDate>Wed, 25 Nov 2020 22:48:20 +0800</pubDate><guid>https://yh.timefriend.vip/post/machinelearning/losscategoricalcrossentropy/</guid><description>&lt;h1 id="categorical-crossentropy源码分析"&gt;Categorical Crossentropy源码分析&lt;/h1&gt;&#10;&lt;p&gt;Source:&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" style="color:#f8f8f2;background-color:#282a36;-moz-tab-size:4;-o-tab-size:4;tab-size:4;-webkit-text-size-adjust:none;"&gt;&lt;code class="language-py" data-lang="py"&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&lt;span style="color:#ff79c6"&gt;import&lt;/span&gt; tensorflow &lt;span style="color:#ff79c6"&gt;as&lt;/span&gt; tf&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&lt;span style="color:#ff79c6"&gt;import&lt;/span&gt; numpy &lt;span style="color:#ff79c6"&gt;as&lt;/span&gt; np&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;sess &lt;span style="color:#ff79c6"&gt;=&lt;/span&gt; tf&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;InteractiveSession()&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&lt;span style="color:#8be9fd;font-style:italic"&gt;print&lt;/span&gt;(&lt;span style="color:#f1fa8c"&gt;&amp;#34;--------output-----------&amp;#34;&lt;/span&gt;)&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;target &lt;span style="color:#ff79c6"&gt;=&lt;/span&gt; tf&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;constant([&lt;span style="color:#bd93f9"&gt;1.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;0.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;0.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;0.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;1.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;0.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;0.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;0.&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;1.&lt;/span&gt;], shape&lt;span style="color:#ff79c6"&gt;=&lt;/span&gt;[&lt;span style="color:#bd93f9"&gt;3&lt;/span&gt;,&lt;span style="color:#bd93f9"&gt;3&lt;/span&gt;])&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&lt;span style="color:#8be9fd;font-style:italic"&gt;print&lt;/span&gt;(&lt;span style="color:#f1fa8c"&gt;&amp;#34;target: &lt;/span&gt;&lt;span style="color:#f1fa8c"&gt;\n&lt;/span&gt;&lt;span style="color:#f1fa8c"&gt;&amp;#34;&lt;/span&gt;,target&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;eval())&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;output &lt;span style="color:#ff79c6"&gt;=&lt;/span&gt; tf&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;constant([&lt;span style="color:#bd93f9"&gt;.9&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.05&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.05&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.05&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.89&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.06&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.05&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.01&lt;/span&gt;, &lt;span style="color:#bd93f9"&gt;.94&lt;/span&gt;], shape&lt;span style="color:#ff79c6"&gt;=&lt;/span&gt;[&lt;span style="color:#bd93f9"&gt;3&lt;/span&gt;,&lt;span style="color:#bd93f9"&gt;3&lt;/span&gt;])&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&lt;span style="color:#8be9fd;font-style:italic"&gt;print&lt;/span&gt;(&lt;span style="color:#f1fa8c"&gt;&amp;#34;output:&lt;/span&gt;&lt;span style="color:#f1fa8c"&gt;\n&lt;/span&gt;&lt;span style="color:#f1fa8c"&gt; &amp;#34;&lt;/span&gt;,output&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;eval())&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;loss &lt;span style="color:#ff79c6"&gt;=&lt;/span&gt; tf&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;keras&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;backend&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;categorical_crossentropy(target, output)&#10;&lt;/span&gt;&lt;/span&gt;&lt;span style="display:flex;"&gt;&lt;span&gt;&lt;span style="color:#8be9fd;font-style:italic"&gt;print&lt;/span&gt;(&lt;span style="color:#f1fa8c"&gt;&amp;#34;loss: &lt;/span&gt;&lt;span style="color:#f1fa8c"&gt;\n&lt;/span&gt;&lt;span style="color:#f1fa8c"&gt;&amp;#34;&lt;/span&gt;,loss&lt;span style="color:#ff79c6"&gt;.&lt;/span&gt;eval()) &lt;span style="color:#6272a4"&gt;# Output: [0.10536 0.11653 0.06188]&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;&lt;a href="https://www.tensorflow.org/api_docs/python/tf/keras/backend/categorical_crossentropy"&gt;官方文档categorical_crossentropy&lt;/a&gt;&lt;/p&gt;&#10;&lt;p&gt;Output:&lt;/p&gt;&#10;&lt;pre tabindex="0"&gt;&lt;code&gt;--------output-----------&#10;target: &#10; [[1. 0. 0.]&#10; [0. 1. 0.]&#10; [0. 0. 1.]]&#10;output:&#10; [[0.9 0.05 0.05]&#10; [0.05 0.89 0.06]&#10; [0.05 0.01 0.94]]&#10;loss: &#10; [0.10536055 0.11653383 0.06187541]&#10;&lt;/code&gt;&lt;/pre&gt;&lt;p&gt;问：输出中最后一行，loss第一个值&lt;code&gt;0.10536055&lt;/code&gt;是什么得到的？&lt;/p&gt;</description></item></channel></rss>