Typingmind:用你自己的AI API Key建立私人助理

by | Aug 30, 2024 | 創新技術

Typingmind其實是KEENLITY的遺珠之一,我們原本想要談合作,但是TypingmingPremium是不提供經銷或是移轉授權的,而高階的Custom服務則完全沒有經銷優惠,反而是要我們先付一筆錢再自己疊價上去賣,看不懂商業邏輯,而不懂的事情不要碰,所以最後也就沒有談成,但Typingmind確實是個不錯的軟體。所以今天這篇不是業配,因為不給合作,我也不給連結了。 

當初會找到這個軟體,主要的目的是降低AI訂閱的費用,試著算一下我的使用案例:

翻譯:
我大多時候是用來翻譯英文、韓文,主要是我懶得讀,我如果可以用中文一倍速讀,我為何要用外語25倍速呢?所以翻譯佔我使用案例的大宗,大約80%。字數其實都不多,大多是信件往來,或是比較難讀的文章,Chrome內建翻譯不足以很快理解時,我就會用AI翻譯。

程式:

我們軟體測試管理系統Armoury+ 所使用的前端套件其實有Demo網站,原始碼範例都很清楚,但搜尋過程太冗長,我不如直接請AI給我一個可用的基礎原始碼,我再來修改,效率就更高了。大概佔我10%

雜七雜八的問題:

例如之前很紅的墨雨雲間,人物之間的關係有點複雜,就問AIWordPress的設定和外掛問題;前陣子想做豆花,我也直接問他熟石膏、鹽滷、葡萄糖酸內酯差別是什麼。

在上述使用狀況下,每個月20美金的訂閱費,我會覺得有點貴,反倒覺得GitHub Copilot10美金滿划算的,所以為了上述用例,我開始尋找可以讓我使用自己的AI API Key的軟體。

這裡列出一些研究過的軟體名稱供參考:

BoltAI, MindMac, Open-WebUI, Msty

這些都是允許使用自己Key的軟體或介面,而Typingmind勝出的原因大概有幾點:

買斷:

他不是月費,畢竟如果還要付月費,我不如直接訂原廠的。

Token統計:

雖然不是絕對準確,但是看到費用一直加上去,還能抑制一下自己一直打字的衝動。

模型相容:

市面上喊得出名字的模型的API都可以使用,雖然我目前只使用OpenAIAnthropic,但難保未來不會有其他需求。

本地資料:

雖然你最終仍要把問題和答案從AI公司的伺服器拿下來,但後續的儲存,全部都是存在你的電腦瀏覽器上,只要你的電腦保管好,就不會有外洩的疑慮,也可設定使用前加密,更多一層保護。

跨設備備份:

本地儲存雖然安全,但如果不同設備之間可以互通以前的問答紀錄好像很方便(雖然用到現在覺得對我沒用處),他有提供包含在內的小量雲服務的同步機制,如果要很大容量的,就得付月費了。

自選帶入過往的對話:

AI每次的對話其實都是把前幾次你給的Prompt和他給你的回答一併送給API,所以你每次消耗的Token實際上不是你當次所打的數量,而是之前大部分的內容,也就是Context Token,對話長度很長的時候其實很貴,Typingmind可以設定只紀錄前一個、前兩個….或全部的對話,以我翻譯的需求,每次紀錄一個就夠了。

還有很多功能,但我都用不太到,平常人也不太會用,像是使用本機的模型、訓練模型、語音輸入等等

這邊給幾個挑使用自己API工具的兩個選擇方向:

網頁還是本機

網頁屬於雲服務,也就是你仍然有需要把一些東西存在雲上,或是整體服務是依賴雲的,當雲掛了你也就不能用了,雖然機會很小。

網頁會輸本機的地方有一個,就是「Use inline in my app」,意思就是,我是否能在我電腦或設備上的其他App去呼叫AI助手,舉個例子,你在Word上寫文章,想要AI幫你寫一段,就可以用關鍵字叫助手幫忙;你在用Gmail回信,想叫助手幫忙回,也可以用關鍵字叫助手寫。不過試用了幾套,不一定能夠完美達成,像寫信這個任務,始終把產出的內容寫在寄件人那欄上…..然後網頁就一直Error

如果你有需要跟其他App互動,那本機才有這功能,就朝這方向找就行;如果沒有需要,我覺得網頁就足夠且免掉了檢查更新的麻煩。

 

 

 

 

文章作者介紹

Fabian Lin

從研發領域叛逃的QA,從小咖變工程總監,我想把業界很多錯誤的認知導正,帶領新鮮人或基層人員往上走,開發平價的測試管理系統Armoury+,在測試的道路上獲得更多成就感(面試不用再只能說找到Bug很有成就感了),歡迎隨時聯繫我。

你也想要分享知識和觀點嗎?KEENLITY目前推出INSIGHT觀點報,誠徵「專欄作家」與「單篇投稿」,點擊連結投稿並了解好處和責任。

精選軟體測試線上課程

邀請您訂閱INSIGHT觀點電子報

Similar Posts

軟體測試聯盟成立:KEENLITY, Blue 與 RTILA 三種藍色色調的美麗相遇

軟體測試聯盟成立:KEENLITY, Blue 與 RTILA 三種藍色色調的美麗相遇

很高興和大家宣布,我們 KEENLITY 與 Blue 和 RTILA 達成國際性的合作!成立軟體測試領域的新聯盟!為台灣企業提供最完善的軟體測試體驗。 KEENLITY Armoury+的軟體測試管理方案開始獲得國際上的認可,產品的可用性、易用性及未來潛力讓很多公司願意合作,並且給予很慷慨的合作提案! 今天正式宣佈!最豐富且最超值的Armoury+訂閱方案來了! 即使與強大的聯盟成員聯手,我們的價格一樣維持平實,我們的願景是 希望測試工程師能夠擁有最棒的工具來提升效率,才能有時間提升自己,並帶給企業更高的價值。 所有訂閱...

Web網頁自動化測試課程開課啦!課程+工具授權全都包!

Web網頁自動化測試課程開課啦!課程+工具授權全都包!

 登記期限至2024.09.16 早鳥優惠率先推出!趕快來分享文章獲得早鳥半價優惠! 幾個月前發現一款Web自動化工具,從提供的功能和操作上,感受到這家公司未來的發展可以期待。我就聯繫了這家美國新創公司,和創辦人接上線,討論可能的合作方式和工具的授權模式,雙方達成協議,只要成為KEENLITY開設的Web自動化課程學員,在課程週期期間內都能使用這套工具的正式授權。   課程詳情會後續通知喔!先來搶名額! 怎麼獲得課程推出通知 & 早鳥半價優惠呢? 註冊KEENLITY帳號,先獲得免費Armoury+課程...

Sessions的局中局?AR2R人工智慧助理,而且還有硬體Pocket1?

Sessions的局中局?AR2R人工智慧助理,而且還有硬體Pocket1?

昨天才寫完Sessions的佈局,今天就又看到新的資訊。 有用戶在國外論壇上提到,Sessions的相同團對在今年初稍早推出了一款人工智慧助理,而且包含專屬硬體AR2R Pocket 1,賣價499美金,可以使用12個月,號稱如果搭配Sessions的終身方案可以得到更好的搭配。 如果拋開Sessions的問題來看,這樣的配套其實就跟賣手機差不多,以硬體來輔助軟體的生態,並且製造一些賣點噱頭,但是將Sessions的狀況加進來,這幾乎可以確定是一場騙局。Sessions的創辦人在上週有一場Ask Me...

分享好文章給朋友吧!

根據統計,能力越強的人越願意分享文章。你的分享是給作者最大的鼓勵!