楊竣傑:結合 AI 物件辨識與無線多聲道系統之沉浸式互動裝置創作與研究 ─ 以《回聲框景》作品為例 (2025 年 1 月畢業)
為了更深入地理解AI物件辨識技術與無線多聲道技術對觀眾體驗的影響,本文將首先進行文獻回顧,聚焦於以下三個主題:多感官體驗、沉浸式體驗以及感官記憶的喚起。 這些技術為創作中的多感官互動提供了新的手段,有助於提升觀眾的參與感。 文獻回顧部分將探討相關研究如何結合這些技術,並探討在相關作品中對藝術展覽中的應用潛力,從而為後續的創作研究提供理論基礎。
本研究的創作實驗 — 名為《回聲框景》的互動藝術裝置系統,採用了先進的Arduino技術以及Google Teachable Machine進行圖像識別。 此系統使觀眾能夠透過修改過的相機觸發特定的聲音效果,實現視覺與聽覺的互動融合,並藉此創造出獨特的多感官沉浸體驗。 《回聲框景》 的設計基於回聲與記憶之間的關聯,藉由視覺辨識技術和聲音觸發裝置,讓過去的記憶得以回應觀眾的當下行為,從而將視覺與聲音記憶交織在一起,重現過去場景。
最終,本研究結果將為互動聲音藝術及多媒體展覽設計提供新思路,特別是關於如何透過AI物件辨識技術與無線多聲道技術來深化觀眾的參與感和沉浸體驗。 研究不僅有助於揭示圖像、聲音與記憶之間的複雜關係,還將為未來的藝術創作開拓新的方向,推進多感官互動技術在藝術展覽中的實踐應用。
- 林清心:Instagram按讚顯示與使用者自我揭露的關係及社交焦慮調節作用之研究(2024 年 8 月畢業)
- 林易璇:以基礎樂理遠距教學為目的之網頁虛擬鋼琴研究與設計 (2024 年 2 月畢業)
基礎樂理教學中,教師常以鋼琴的聲音與琴鍵的呈現來輔助授課。然而,在教導多名學生的情境時,教師很難讓所有學生都能實際看到琴鍵。若樂理教學的環境因為硬體限制而無法備有實體鋼琴,教師可能會需要在無實體鋼琴的環境下進行教學,便會需要自備實體鍵盤樂器來教室授課,如此一來就會加大授課者自身的硬體負荷。
「虛擬鋼琴」作為一種數位樂器,可於電腦與行動裝置上運作,儘管不適合用於鋼琴演奏的教學,若設計得宜,則可以滿足多數樂理教學的鍵盤需求。在遠距教學上,虛擬鋼琴的聲音不需另外透過麥克風收音,琴鍵的畫面亦可透過視訊軟體中螢幕分享的功能,直接投影至遠端螢幕,因此虛擬鋼琴比實體鋼琴更適用於遠距教學中。
然而,現有的虛擬鋼琴應用程式仍無法完全滿足樂理教學演示上的需求,多數虛擬鋼琴僅提供基礎的「虛擬樂器」功能,尤其是遠端教學情境中,這些虛擬鋼琴應用程式在鋼琴音源的表現和樂理相關資訊的呈現方面仍有不足,例如無法用樂譜呈現彈奏的音符,或只呈現琴鍵畫面但無法發出聲音,或無法紀錄彈奏的內容,或介面設計不佳等。這使得教學者需額外準備記譜軟體、小黑板程式、編曲軟體、音訊串接軟體等。
有鑑於此,本研究基於遠距教學的需求,試圖設計一款輔助音樂老師進行基礎樂理教學的網頁虛擬鋼琴,使用者只需開啟網頁瀏覽器,用電腦鍵盤即可彈奏,亦可選擇性地外接 MIDI 鍵盤來使用。本研究的虛擬鋼琴網頁除了虛擬樂器功能之外,也具有顯示基礎樂理資訊之功能,如顯示所彈奏的和弦名稱、音程、音階記譜,並有即時記譜的功能。
本研究所設計之網頁虛擬鋼琴完成後,研究者邀請音樂教學者們測試網頁功能,並評估其可用性,且請他們在試用後填寫問卷量表,再與之進行半結構式訪談,以了解此網頁虛擬鋼琴的易用性與改良方向。研究者統整受測者的意見反饋後,改良後的虛擬鋼琴網頁將開放給大眾,讓音樂教學者能夠在教學情境中使用。
- 凃茗澤:運用智慧型手機三軸陀螺儀感應技術之音樂遊戲研究與創作 (2023 年 8 月畢業)
三軸陀螺儀感應技術在行動裝置遊戲上的應用已經相當普及,然而在行動裝置音樂遊戲市場中,結合陀螺儀感應技術的玩法仍然相當少見,市面上的行動音樂遊戲主要透過觸控螢幕進行遊玩,少有例外。因此,本研究將透過文獻回顧與相關案例分析,探討音樂節奏遊戲的可玩性因素,再歸納出三軸陀螺儀與數位行動遊戲結合之方法,期望能將音樂節奏遊戲與體感做結合,以有趣的體感互動機制達成玩法上的創新,並提升可玩性。
本研究之創作《基音實驗室》讓玩家扮演生物實驗室實習生,玩家依據遊戲指示與規則,點擊、長壓及旋轉代表節奏拍點的色塊以獲得分數。當達到指定分數時則能「取得基因的關鍵要素」,藉以破關並更新曲目,以進行下一輪的節奏遊戲。在此款遊戲的操作機制評估上,本研究以 Sweetser 與 Wyeth 所提出的遊戲心流作為設計之評估考量,並經由專家訪談,歸納專家對於遊戲所提供的意見與建議。接著透過使用者實際操作測試,了解受測者之使用情形,再以可玩性之滿意度調查問卷加以驗證遊戲的可玩性,最後針對相關成果進行分析,以瞭解三軸陀螺儀體感要素融入行動音樂遊戲的可能性。
- 郭旭超:元宇宙下表情反饋系統結合多人線上角色扮演遊戲之應用研究 (2022 年 8 月畢業)
- 黃柏瑞:碩士論文 - VR 遊戲結合自適性音樂之沉浸體驗探討 - 以動作遊戲為例 (2021 年 8 月畢業)
虛擬實境的組成以沉浸(Immersion)、互動(Interaction)、構想(Imagination)為三大主軸,強調以使用者為主導,來控制影音之呈現,然而實際上,現有的虛擬實境遊戲多以視覺體驗為主、聲音效果為輔,忽略了聽覺的感受。自適性聲音的技術強調即時反饋玩家在遊戲中的狀態與所在之情境,應有助於虛擬實境遊戲之玩家體驗。本文將自適性聲音分成音效及音樂兩個部分進行探討。自適性音效可以呼應玩家的指令、表現角色的狀況、描述環境;自適性音樂則會隨著遊戲中的事件或環境,順暢地轉換音樂的內容與氛圍。本研究亦設計一款VR射擊遊戲,玩家將隨機依序體驗兩種有無使用自適性的聲音系統,並將玩家在遊戲中的表現量化分析,透過觀察法、問卷調查法、深度訪談法,評估使用者在VR射擊遊戲中,對於聲音的表現與感受,聚焦於驗證自適性聲音對於VR遊戲的重要性,整理出玩家最佳感受之聲音模式,並提出以自適性聲音為主之VR射擊遊戲之設計建議。
自適性音效在本研究所設計的遊戲中有多種表現方式,包括隨玩家的移動而即時改變的殘響效果,來表現廣闊的平原或狹小的洞穴知音場環境;重複的音效添加隨機變化,讓子彈的聲音不再單調疲乏;會產生聲音的物件之音量大小與聲音方位,會隨玩家在遊戲場景中的空間位置而變化;腳步聲隨著遊戲場景的地面材質而即時改變聲響特性。自適性音樂在本遊戲中,隨著遊戲情境氛圍的不同而順暢轉換音樂內容,主要透過水平重排序、垂直重混音等的手法,使不同氛圍的音樂能隨玩家的處境而隨時能順暢進行轉換,取代傳統以直接中斷的音樂切換方式。
透過玩家問卷分析結果顯示「自適性聲音系統」適用於「視頻射擊遊戲」與「VR射擊遊戲」,受測者在「自適性聲音系統」下之遊戲表現,在3D環境內之空間感、方位判斷、距離判斷等構面,都有顯著提升。此外,受測者皆偏好在「自適性聲音系統」的聲音模式中遊玩射擊遊戲。
透過遊戲實測數據顯示,除了有豐富射擊遊戲經驗的受測者外,對於一般的受測者而言,「自適性聲音系統」有助於提升玩家體驗。在「沉浸感」、「玩家喜好」、「時間扭曲」、「疲勞感」等構面上,「自適性聲音系統」下之測試與「非自適性聲音系統」之測試結果皆有明顯的差異,尤其是在無時間壓力的遊戲關卡中,玩家在「自適性聲音系統」下,停留的時間較長(高於「非自適性聲音系統」41.94%),而在射擊的任務中,玩家也能以更少的時間(低於「非自適性聲音系統」19.382%)來通關。
- 簡均丞:碩士論文 - 虛擬實境中聲音對熱觸覺回饋影響之研究 (2021 年 8 月畢業)
熱觸覺回饋(Thermal Feedback)的應用在資訊的傳遞、溝通與遊戲上,皆是一項困難的挑戰,因人體對於熱觸覺的分辨率低,且不易察覺 。故本研究欲探討藉由多模態感知刺激(Multi-Sensory Stimuli)—以其他感官刺激來影響另一種感官的效應—是否能強化人對於熱觸覺的感知(Thermal Perception)。
本研究將依據多模態感知刺激,在虛擬實境Virtual Reality(VR)遊戲中,透過聲音來影響人對於熱觸覺的感知。在本研究中,我們開發了一套結合熱觸覺回饋裝置的虛擬實境體驗系統,其中的硬體裝置包含一副搭載發熱貼片、彎曲感測器及 HTC VIVE 移動定位器的手套、頭戴式顯示器與耳機。此系統可以根據受測者的手掌彎曲幅度,調整發熱貼片之溫度及輸出音量之大小。受測者需在虛擬實境遊戲中,正確地調控裝置溫度來操縱遊戲中人物手掌的噴射火焰大小—當兩手溫度一致時,人物將會垂直往上移動;溫度不一致時, 人物則會停止移動;當人物到達終點時,任務才算完成。
本研究之實驗共分三種:(1) 無聲音影響之實驗:紀錄受測者在無聲音影響時,完成任務所需之時間;(2) 加入聲音影響之實驗:在受測者張開雙手時,耳機播放固定音量大小的火焰噴射音效;(3) 加入音量變化影響之實驗:根據受測者雙手張開的幅度,調整音量上的漸強或漸弱。每次實驗皆會紀錄完成任務所需之時間,以評估聲音對熱觸覺影響之成效。
根據以上實驗發現,聲音的輔助有助於熱觸覺感知的提升。其中,雖然音量的變化對於完成遊戲任務所需的時間並無顯著的影響,但根據訪談問卷發現音量的變化會使受測者更易於察覺到溫度的變化。多數受測者也認為,此種將聲音與熱觸覺回饋結合的虛擬實境遊戲模式是一種新鮮的遊戲體驗,並希望未來能夠有更多類似的遊戲體驗。此外,問卷的結果也顯示,此種運用聽覺與熱觸覺關聯性於虛擬實境遊戲中的設計,有助於提升遊戲體驗的沈浸感。最後本研究將歸納聲音結合熱觸覺回饋於虛擬實境中之優點,並提出相關類型的遊戲設計建議。
- 楊捷絮:碩士論文 - 結合音高與空間概念之虛擬實境音感訓練遊戲之探討 (2021 年 8 月畢業)
音感是音樂能力的重要項目之一,根據目前市場調查的結果來看,普遍與音感培養相關的應用程式有非常多種,但大部分著重於訓練,且過於枯燥、缺乏故事內容,而研究證實適當的多媒體遊戲式學習可激發學習者的學習動機,同時增加對於知識的吸收能力,故本研究之音感訓練軟體會以遊戲形式呈現,以激發使用者之使用動機。
近年來,虛擬實境 (Virtual Reality,縮寫VR)已經是教育科技發展趨勢之一,而虛擬實境就是指運用電腦科技產生的3D立體空間,在各項領域中之應用越來越廣泛。台灣大學音樂學系研究所蔡振家教授也認為音高、音程、旋律與空間概念有相似性,從許多音樂用語都可以看出類似情況,例如以「高低」這個空間觀念來描述音高是普遍常見的形容詞,而肢體互動的直覺映射反應結合至虛擬實境,可以使使用者更直觀且不被中斷沈浸體驗的方式來進行音感訓練,使得玩家在享受遊戲內容的同時,也能夠提升自己的音感。因此本研究將肢體互動的特性融入音感訓練,結合虛擬實境的三維空間優勢,設計一款虛擬實境體驗遊戲來訓練音感。
為了評估平面操作與虛擬實境之肢體互動體驗對於音感訓練成效之影響,故本研究之實驗方式與順序為:(1) 讓受測者先透過 MusicTheory.net 網站所提供的 Keyboard Ear Training 音感訓練系統進行線上測驗,以暸解其音感程度。(2) 受測者藉由本研究在平板電腦與虛擬實境環境所分別開發之相似模式的音感訓練軟體來進行音感訓練,藉以比較平板電腦的平面操作與虛擬實境的體感體驗對於音感訓練成效之影響。(3) 再進行一次前述的 Keyboard Ear Training 音感訓練系統線上測驗,來評估受測者之音感程度是否提升。
根據實驗結果的分析發現「肢體互動的音感訓練模式」有助於引發學習者接受音感訓練的學習動機。其中,受限於 Covid-19疫情影響,根據目前之有限的實驗樣本問卷分析結果,平板電腦的平面操作與虛擬實境的肢體互動對於音感訓練成效並無顯著的差異,但根據訪談問卷發現本實驗中,參與虛擬實境之肢體互動音感訓練的受測者皆認為將音感結合肢體動作的虛擬實境之模式較為新穎,能使受測者更專注於音感的訓練。最後本研究歸納出音感訓練結合肢體互動於虛擬實境中之優點,並提出相似類型之遊戲設計建議。
- 黃國斌:碩士論文 - 結合擴增實境之現場音樂表演之互動系統設計研究與創作 (2020 年 2 月畢業)
本研究嘗試透過沉浸式擴增實境的技術設計一件音像互動的作品,以頭戴式顯示器與手機的硬體裝置,在現實世界當中與虛擬世界結合並產生互動,藉此強化現場音樂表演視覺之呈現,並針對音樂與聲響特性,設計出相對應的粒子效果,利用擴增實境技術使視覺元素在空間中懸浮,創造符合音樂表演的視覺情境。透過此系統的建置,得以虛擬的視覺體驗,強化觀賞者在聆賞音樂表演的沉浸感。研究前期經由文獻蒐集及相關案例探討,歸納出沉浸式擴增實境音像互動的設計原則,並依據這些理論基礎開發出沉浸式擴增實境音像互動作品,研究後期將透過作品之展演進行實驗測試,檢視本研究之設計成果。最後回顧本研究之歷程,針對相關研究成果進行歸納探討,總結具體建議。
- 王琦:碩士論文 - 虛擬實境之 3D 聲音定位輔佐視覺感知研究 (2019 年 8 月畢業)
- 余康正:碩士論文 - 結合 Myo 智慧手環之互動燈光表演系統之 研究與創作 ( 2019年 8 月畢業)
傳統的舞台燈光控制是由場控人員 控制, 表演者不會參與其中。然而,隨著互動科技的進步及表演方式的多元化,表演者透過 新的互動科技,藉由手勢或肢體動作直接控制舞台燈光之顏色、旋轉方位、閃爍等,亦成為一種可能性。有鑒於此,本研究設計一套互動燈光表演系統,讓表演者與場控人員可以依照 自己的需求,在預先編排或切換表演時,能即時切換所需的燈光效果。使用者須穿 戴 Myo 手環,並透過無線傳輸技術與系統連接以產生多樣化的燈光效果。本系統 經過專 業的舞蹈表演者測試與驗證,以評估其系統之易用性。此外,本研究亦蒐集專家意見, 統整並歸納出互動燈表演光系統之設計原則,最後根據統計分析結 果可以得知無論表 演者是否有使用科技產品於表演之經驗,皆認為本研究所設計 的互動燈光表演系統有助於增加表演者與燈光之間的互動。
- 鄭光宇:行動音樂遊戲結合歷史介紹之研究與創作—以提升學生對清治時期台灣建設發展史興趣之遊戲為例 (2018年月8月畢業)
由於音樂和歷史都具有線性關係,音樂與歷史的推進方式也都與時間有關,因此本研究嘗試將兩者做結合,創作《跟著音樂見台灣》這款節奏型音樂遊戲,以清治時期的台灣建設發展作為遊戲的基底,並根據動機與記憶理論作為設計之評估考量,經由專家訪談、歸納專家對遊戲所提出之建議,再通過使用者實際操作,來了解受測者使用的感想與狀況,並根據取得之問卷數據結果進行探討,確認是否能實際達到通過音樂遊戲激發對台灣建設發展歷史興趣之成效。
- 林冠儀:碩士論文 - 結合無線姿態偵測穿戴式裝置與衍生影像之互動舞蹈表演系統創作與研究—以粒子化特效為例 (2018年月8月畢業)
結合多媒體科技的舞蹈表演形式,早期作法常是利用預先製作好的影片作為現場舞蹈表演的背景影像,舞者必須透過繁複的練習才能達成舞蹈動作與背景影像內容緊密同步,以模擬舞者與背景影像之間的即時互動關係,但也因此限制了舞者的即興空間。有鑑於此,本研究提出一套互動表演系統,充分給予舞者、編舞家與場控人員創意表達的自由度。使用者戴上Myo手環,透過無線傳輸技術便能與系統產生於投影畫面上的衍生影像進行互動,另外系統在iPad上的場控介面可方便編舞家或場控人員即時切換衍生影像的效果,本研究的衍生影像以粒子化特效為例。
本研究所設計之互動表演系統經過業界專業舞蹈家與編舞者測試、驗證、評估其可用性,並蒐集業界專家意見,歸納出互動表演系統之設計原則。最後,研究者回顧本系統之設計歷程,針對相關研究成果進行探討,並提出具體結論與建議。根據統計分析結果,無論舞者有無應用互動科技產品於舞蹈表演的經驗,經過試用本研究所設計之互動表演系統,皆認為此類系統有助於互動舞蹈表演之編舞與演出執行。
- 嚴堯漢:碩士論文 - 虛擬實境結合數位遊戲式學習提升學習動機之創作與研究-以化學元素週期表為例 (2017年 8月畢業)(共同指導老師:曹筱玥、鄭建文)
- 謝銘燦:碩士論文 - 音感培養融入行動遊戲之研究與創作 — 以提升兒童音樂興趣之橫向塔防遊戲為例 (2016 年 7 月畢業)
- 趙欣童:碩士論文 - 行動遊戲結合中國經典文學之研究與創作 — 以《莊子•逍遙遊》休閒遊戲為例 (2016 年 7 月畢業)
- 龔姿伃:碩士論文 - 兒童專注力腦波訓練研究 (2016 年 7 月畢業)
- 蔡潤彬:碩士論文 - 結合穿戴式腦波儀之冥想練習互動裝置研究與創作 (2015 年 7月畢業)
- 邱偉智:碩士論文 - 《囙》準則作曲於互動音樂裝置之創作與研究 (2015 年 7月畢業)
- 吳沛容:碩士論文 -《英語教學融入行動遊戲之研究與創作─以針對國小四年級設計之卡牌遊戲為例 》(2014年 7月畢業)
- 林利津:碩士論文 -《行動裝置互動DVJ表演系統》(2014年 7月畢業)
- 楊蕙瑀:數位敘事之地方文化網路社群 App 介面設計研究—以「相遇時刻」App 為例 (2014 年 1月畢業)(共同指導老師:曹筱玥、鄭建文)
- 汪戊全: 碩士論文 -《體感互動舞蹈表演系統》(2013年 6月畢業)
- 邱麗芬:碩士論文 - 《互動電腦音樂「傀儡」作品之創作理念與樂曲分析》(國立台北教育大學音樂系碩士班)(2013 年 2 月畢業)
- 指導大一專題互動電子書裝置「青星」(曾聿萱、李毓浩、謝嘉眉)、「水底迷城」(陳沅芝、張劭溱、胡凱閎、胡伯維)、「幸福樹屋」(林靜瑩、林定權、王姵淳、王羿淩)
- 指導大二專題「冰塊大亨」VR 體驗遊戲 (2017-2018):李丹丰、林琬庭、詹閔翔、謝筱婕
- 指導大二專題「三態瓦特」體感遊戲 (2017-2018):詹勝勛、熊亭筑、徐于琇、黃湘雯、高聖洋
- 指導大二專題「棋緣」互動裝置 (2017-2018):謝欣憶、楊雯瑄、湯晏淳、洪詩雅
- 指導大四專題「小哼通」聲音驅動賽車行動遊戲 (2017 年 6 月大學部畢業專題):吳東霖、古偉助、高聖洋、田雅銘、王靜儀。
- 吳沛容、許皓儒:智慧手機遊戲 Artemis (2012 年 7 月畢業於臺北科技大學學士後學士學位學程)。
- 王瑄、孫宏俠、翁秉宏、董威志、盧天授:國民小學健康教育之互動新媒體教具設計與應用:神奇的人體解剖教室。(2011年7月畢業於臺北科技大學學士後學位學程)。
沒有留言:
張貼留言