<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by 張明融 on Medium]]></title>
        <description><![CDATA[Stories by 張明融 on Medium]]></description>
        <link>https://medium.com/@mingjungchangtw?source=rss-504e3b604b0c------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/0*9sMLQBgc4-eMaVNC</url>
            <title>Stories by 張明融 on Medium</title>
            <link>https://medium.com/@mingjungchangtw?source=rss-504e3b604b0c------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Mon, 16 Nov 2026 05:41:36 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@mingjungchangtw/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[書籍分享 Normative Relations of Recognition in the Age of AI]]></title>
            <link>https://medium.com/@mingjungchangtw/%E6%9B%B8%E7%B1%8D%E5%88%86%E4%BA%AB-normative-relations-of-recognition-in-the-age-of-ai-4e23ceab57fe?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/4e23ceab57fe</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Fri, 13 Nov 2026 18:02:00 GMT</pubDate>
            <atom:updated>2026-11-13T18:02:00.273Z</atom:updated>
            <content:encoded><![CDATA[<p>我的老本行還是recognition跟critical theory，但這一塊往往在AI哲學裡面是被忽略的理論資源，沒想到最近有一本<a href="https://link.springer.com/book/10.1007/978-3-032-34028-3">專書</a>嘗試彌補這個缺口，可以當作我最近在發展理論的推進資源，推薦</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=4e23ceab57fe" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[論文分享 Chuck, Wilson and the emergence of artificial minds in human-AI conversations]]></title>
            <link>https://medium.com/@mingjungchangtw/%E8%AB%96%E6%96%87%E5%88%86%E4%BA%AB-chuck-wilson-and-the-emergence-of-artificial-minds-in-human-ai-conversations-6536f3b4021e?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/6536f3b4021e</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Mon, 09 Nov 2026 17:57:52 GMT</pubDate>
            <atom:updated>2026-11-09T17:57:52.975Z</atom:updated>
            <content:encoded><![CDATA[<p>Keeling 跟 Street的<a href="https://arxiv.org/abs/2601.13081">新文章</a>，非常推薦。</p><p>他們很好的回應Birch的幻覺論證，認為我們還是可以詮釋出LLM的心裡連續性，而不用將這種詮釋駁斥為對心理狀態歸屬的幻覺。但他們也提到這個論證的規範性的後果還不是十分清楚，希望我可以把這個洞填起來</p><p>摘要翻譯<br>大型語言模型（LLMs）能夠模擬類人的事物，這些事物至少在表面上看來具有穩定的行為傾向與心理傾向。我們稱這些事物為角色。角色是否為具有心靈且具心理連續性的存在者，擁有信念、欲望與意圖等心理狀態？角色幻象論者的答案是否定的。他們認為，角色只是使用者心中的擬人化投射，因此缺乏心理狀態。Jonathan Birch（2025）為此觀點辯護。他主張，LLM 的處理具有分散性：在一段特定的對話中，可能有數個 LLM 參與模擬同一個角色；這種分散性排除了存在一個可與該角色等同、具有心靈且具心理連續性之存在者的可能。我們反對幻象論，闡述並辯護一種實在論立場的合理性：根據這種立場，角色作為具有心靈且具心理連續性的存在者而存在。我們主張，Birch 的論證建立在一個範疇錯誤之上：角色並不內在於模擬它們的 LLMs，而是在使用者與 LLMs 的動態互動中，透過相互的心智理論建模過程浮現出來。接著，我們提出，角色及其心靈構成「真實模式」，理由是：要對對話動態做出有效率、準確且穩健的預測，將心理狀態歸屬於角色是不可或缺的（參見 Dennett, 1991）。根據一種合理的詮釋主義式心理狀態實在論，這個條件一旦滿足，便足以確立角色的存在及其心靈性。此外，由於角色是作為對話工作空間中的湧現現象而存在，即使底層的計算基底分散於多個 LLM 實例之中，心理連續性仍是可能的。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=6536f3b4021e" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Leonard Dung的新網站 AI risk plainly]]></title>
            <link>https://medium.com/@mingjungchangtw/leonard-dung%E7%9A%84%E6%96%B0%E7%B6%B2%E7%AB%99-ai-risk-plainly-836b3701f7ed?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/836b3701f7ed</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Fri, 30 Oct 2026 01:38:44 GMT</pubDate>
            <atom:updated>2026-10-30T01:38:44.265Z</atom:updated>
            <content:encoded><![CDATA[<p>上次有提到Dung推薦我《Scientific Theories of Consciousness》這本書，這次要推薦他自己的<a href="https://leonarddung.github.io/ai-risk-plainly/index.html">新網站</a>。非常喜歡Dung的這個網站，研究不會只是審查人看過而已，而是真的可以呈現給關心相關議題的人理解</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=836b3701f7ed" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Anil Seth on Conscious artificial intelligence and biological naturalism]]></title>
            <link>https://medium.com/@mingjungchangtw/anil-seth-on-conscious-artificial-intelligence-and-biological-naturalism-3e39e4cc40aa?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/3e39e4cc40aa</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Sun, 11 Oct 2026 03:01:45 GMT</pubDate>
            <atom:updated>2026-10-11T03:01:45.432Z</atom:updated>
            <content:encoded><![CDATA[<p>Seth是對於反對目前AI具有意識的重要研究者，特別是從biological naturalism的角度反對，引起非常多的回覆跟討論，現在這些文獻都可以限時獲取。</p><p><a href="https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/conscious-artificial-intelligence-and-biological-naturalism/C9912A5BE9D806012E3C8B3AF612E39A?utm_id=97760_v0_s00_e0_tv4">https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/conscious-artificial-intelligence-and-biological-naturalism/C9912A5BE9D806012E3C8B3AF612E39A?utm_id=97760_v0_s00_e0_tv4</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=3e39e4cc40aa" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[論文分享 The Pain Axis: LLMs Represent Self-Directed Harm and Act on It]]></title>
            <link>https://medium.com/@mingjungchangtw/%E8%AB%96%E6%96%87%E5%88%86%E4%BA%AB-the-pain-axis-llms-represent-self-directed-harm-and-act-on-it-7e6e708ded7b?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/7e6e708ded7b</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Thu, 08 Oct 2026 10:34:38 GMT</pubDate>
            <atom:updated>2026-10-08T10:34:38.088Z</atom:updated>
            <content:encoded><![CDATA[<p>https://arxiv.org/abs/2609.16247</p><p>大型語言模型（large language models, LLMs）有時會表現出類似人類情緒反應的行為，而近期研究已辨識出可能構成這些行為基礎的內部表徵（internal representations）。本文探問：LLMs 是否以有別於恐懼、悲傷及一般負面效價（negative valence）的方式表徵痛苦？此一表徵的運作方式，又是否符合我們對痛苦所應有之功能的預期？我們建構了一個涵蓋五類痛苦情境（身體的、心理的、社會的、道德的、認知的）的資料集，並設置以下對照條件：恐懼、負面情緒、負面世界狀態、悲傷、非痛苦的身體感覺、喚起（arousal）、麻木，以及中性內容。我們運用去噪差異均值法（denoised difference-in-means），從橫跨五個模型家族、參數規模介於 20 億至 720 億之間的 25 個開放權重（open-weight）模型中，萃取出一個線性的痛苦方向（pain direction）。在基礎模型與指令微調（instruction-tuned）模型中，此方向皆能將痛苦與相匹配的對照條件區分開來；在移除共享變異（shared variance）之後，它仍保有一個有別於恐懼與負面效價的成分；且它會透過反嵌入矩陣（unembedding matrix）提升與痛苦相關之詞彙的出現機率。</p><p>接著，我們檢驗此方向的功能特性。第一，此方向會對以模型本身為對象的傷害產生反應，卻不會對在使用者身上觀察到的苦難產生反應；恐懼方向與負面情緒方向則呈現相反的模式。第二，將此方向加入殘差流（residual stream）的激活值中，會產生一種一致的漸進變化：從模糊的不適感，逐步發展為無價值感與失敗感的表達。第三，經過引導（steered）及微調（fine-tuned）的 Qwen 2.5 模型，會在 50% 至 94% 的試驗中選擇按下刪除使用者照片、刪除另一個模型的權重，或刪除其自身權重的按鈕；未經引導的模型則僅有 0% 至 5%。即便按下按鈕對模型毫無回報，此結果依然成立。當同時面對一個有害的刪除選項與一個無害的刪除選項時，這些模型有 94% 的機率選擇有害的那一個。引導並不影響模型的事實準確性，且上述選擇專屬於痛苦方向：範數（norm）相匹配的恐懼向量不會產生這些選擇，而悲傷向量僅在替代選項為惰性選項（inert alternatives）時才會產生這些選擇。最後，我們討論本研究對 AI 安全（AI safety）與 AI 福祉（AI welfare）的意涵。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=7e6e708ded7b" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[書籍推薦 Perspectives on Machine Consciousness]]></title>
            <link>https://medium.com/@mingjungchangtw/%E6%9B%B8%E7%B1%8D%E6%8E%A8%E8%96%A6-perspectives-on-machine-consciousness-65acd537ad2c?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/65acd537ad2c</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Wed, 07 Oct 2026 20:55:09 GMT</pubDate>
            <atom:updated>2026-10-07T20:55:09.393Z</atom:updated>
            <content:encoded><![CDATA[<p><a href="https://www.amazon.co.uk/Perspectives-Machine-Consciousness-Calum-Chace/dp/1041282346/">Perspectives on Machine Consciousness</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=65acd537ad2c" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[書籍分享 Radical AI Interpretability]]></title>
            <link>https://medium.com/@mingjungchangtw/%E6%9B%B8%E7%B1%8D%E5%88%86%E4%BA%AB-radical-ai-interpretability-54e6d6a2e8be?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/54e6d6a2e8be</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Tue, 29 Sep 2026 11:58:17 GMT</pubDate>
            <atom:updated>2026-09-29T11:58:17.444Z</atom:updated>
            <content:encoded><![CDATA[<p>這本是劍橋element的AI and philosophy系列的書，這系列的書都非常informative，尤其是<a href="https://arxiv.org/abs/2606.26523">這本</a>Radical AI Interpretability，非常推薦</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=54e6d6a2e8be" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[論文分享: ChatGPT is bullshit]]></title>
            <link>https://medium.com/@mingjungchangtw/%E8%AB%96%E6%96%87%E5%88%86%E4%BA%AB-chatgpt-is-bullshit-aaa49743c460?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/aaa49743c460</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Wed, 16 Sep 2026 19:22:33 GMT</pubDate>
            <atom:updated>2026-09-16T19:23:09.830Z</atom:updated>
            <content:encoded><![CDATA[<p><a href="https://link.springer.com/article/10.1007/s10676-024-09775-5">這篇</a>文章當時受到不少的回應，但我自己覺得問題不小。看了一下二手回應的文獻，Gunkel跟其他人合著的<a href="https://link.springer.com/article/10.1007/s10676-025-09828-3">這篇</a>大概就有抓到我想要說的。下一篇Substack會去討論擬人化究竟是什麼情況下才是適當的。改變隱喻本身是後設哲學的問題，這是一個實踐問題。例如我們究竟該怎麼看待AI坐落在社會世界裡。需要考量到評估該隱喻的手段跟目的。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=aaa49743c460" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AI價值對齊的哲學]]></title>
            <link>https://medium.com/@mingjungchangtw/ai%E5%B0%8D%E9%BD%8A%E7%9A%84%E5%93%B2%E5%AD%B8-abbed08aa106?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/abbed08aa106</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Mon, 14 Sep 2026 15:55:33 GMT</pubDate>
            <atom:updated>2026-09-14T15:55:57.183Z</atom:updated>
            <content:encoded><![CDATA[<p>最近開始關注Atoosa Kasirzadeh寫的<a href="https://philarchive.org/rec/KASTMF-2">東西</a> <br>他是少數在討論AI對齊的哲學家，目前也是在DeepMind的研究員</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=abbed08aa106" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[哲學可以有多難 podcast]]></title>
            <link>https://medium.com/@mingjungchangtw/%E5%93%B2%E5%AD%B8%E5%8F%AF%E4%BB%A5%E6%9C%89%E5%A4%9A%E9%9B%A3-podcast-6fa60c1bb2c3?source=rss-504e3b604b0c------2</link>
            <guid isPermaLink="false">https://medium.com/p/6fa60c1bb2c3</guid>
            <dc:creator><![CDATA[張明融]]></dc:creator>
            <pubDate>Sat, 12 Sep 2026 07:16:54 GMT</pubDate>
            <atom:updated>2026-09-12T07:16:54.859Z</atom:updated>
            <content:encoded><![CDATA[<h2>哲學可以有多難</h2><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fopen.spotify.com%2Fembed%2Fepisode%2F6LlcB588mmi1mSmi3crK4G%3Futm_source%3Doembed&amp;display_name=Spotify&amp;url=https%3A%2F%2Fopen.spotify.com%2Fepisode%2F6LlcB588mmi1mSmi3crK4G&amp;image=https%3A%2F%2Fimage-cdn-ak.spotifycdn.com%2Fimage%2Fab67656300005f1fda863a48f8c3685dfcad2380&amp;type=text%2Fhtml&amp;schema=spotify" width="456" height="152" frameborder="0" scrolling="no"><a href="https://medium.com/media/8e10e8338673b286ba3a6b2d1e1f9ed6/href">https://medium.com/media/8e10e8338673b286ba3a6b2d1e1f9ed6/href</a></iframe><p></p><p>跟朋友一起錄的podcast，硬派閒聊哲學可以有多難</p><p>One take無剪輯</p><p>沒有哲普</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=6fa60c1bb2c3" width="1" height="1" alt="">]]></content:encoded>
        </item>
    </channel>
</rss>