前些日子重讀 Transformer 原始論文 Attention is All You Need 時,花了好段時間才理解 Q, K, V vectors 的含義,以及這樣的數學模型是如何學習到語意背後的關聯性。不過理解之後,便開始能自己思考與推敲語言模型可能的發展方向,再去尋找相關的研究。這省下了我大量主動跟隨論文發展的時間,也更有信心在語言模型飛速迭代的時代,能夠掌握基本原則,而不是被淹沒在各種 prompt engineering 跟 RAG 的技術手段中不知所措。 這也讓我開始思考,雖然之前已經讀過一部分機器學習基本原理,如果能在現在語言模型應用大量冒出的背景下,重新去溫習基礎課程,除了能幫助我釐清作者如何從過往的類神經網路推演出 Transformer 的架構以外,也會更有能力去查看或更改小模型的實作細節,讓我更深入理解語言模型的行為。 作為 Andrew Ng Machine Learning Specialization 的第一堂課,這是不起眼的一小步,但是必須有這第一步,才有後面的各種可能性。 https://lnkd.in/g_6DF7_K
Jay Liang的动态
最相关的动态
-
花了一個多月的時間,終於完成了原本預計要三個月才能看完的吳恩達 Machine Learning Specialization. 看完後確實收穫很多,除了了解各種 neural network 的基礎原理與數學推論以外, 最大的感想還是,目前在各種 LLM 的研究論文中,許多技巧其實是傳統機器學習的延伸。 另外也更理解複雜數學式其實隱含的都是相對簡單的概念,而了解這些概念就能夠知道設計神經網路架構時背後的思維邏輯。 雖然我們不太可能有資源自己去調整大語言模型的實作並訓練,但具備這樣相關知識有助於我去猜測 LLM 前沿研究可能的方向, 此外也許能在運用 RAG 等其他語言模型使用技巧時,更理解模型的行為。 根據公司的產品規劃,大概在今年底前就會使用 LLM 實作 agentic flow 成為產品的一環。 這次更深入的去了解機器學習的基礎知識,其實是對之後自己職涯發展,以及工作上尋找可能解決問題的方向的提前部署。 未來不可預知,但我相信這會是一筆相當值得的自我投資。
Completion Certificate for Machine Learning
coursera.org
要查看或添加评论,请登录
-
之前去 Yourator 數位人才媒合平台 錄的 podcast 出爐啦!~ BlueX Trade 作為一家 2B 的新創公司,我在這邊經歷很多跟之前做 2C 很不一樣的經驗,例如船公司和貨代單筆交易金額高的驚人,而我們做的服務要支撐高額且付款方式多元的交易,以及內部財務人員的審核作業,背後就要花非常多心思去確保系統行為的商業一致性,對我來說充滿挑戰,卻也是這幾年來成長最多的地方。 啊不過這一集主要在講公司的企業文化,例如覺得自己做的真是不錯就去找老闆談加薪,能夠幫自己和團隊成員設立新的角色定位與權責,持續推動大家的職涯成長,並爭取到與能力相應的報酬,也是很有成就感的事情。另外偶爾會女裝去上班的我,實在是很做自己,而且多了好多跟同事們的共同話題,好像不自覺成為了多元文化的一員🤣🤣 https://lnkd.in/g_finGWt
直擊矽谷新創團隊的日常!想加薪隨時找老闆談?專訪 BlueX Trade Product development Lead - Jay & Sr. Engineer- Jiselle|職涯履行家Podcast|S2 EP60|Yourator 職涯平台專欄|找工作、求職、徵才
yourator.co
要查看或添加评论,请登录
-
Honored to attend the APEA event!
Last night, we received Asia Pacific Enterprise Awards (APEA) Fast Enterprise Award. This award is given to enterprises that have demonstrated rapid growth in areas such as revenue, market share, user base, profit and/or brand recognition. A huge shout out to every member of our team that has helped BlueX grow into the amazingly agile and resilient company that it is. Go team! Thanks Lance Lin Vivian Chiang Kai-wen Chung Yung-Lin Chen Jason Huang Josh Kao Jay Liang Hector Wan Zhuo MONICA L. for joining the event last night. For more information on the Fast Company Award by APEA 2022, please see our press release: https://lnkd.in/gBdjf9JX
要查看或添加评论,请登录
-
-
Proud of being part of the company <3 #bluex #bestcompaniestowork #software #startup
We’re excited to be featured in HR Asia’s list of the Best Companies to Work for in Asia 2021. This recognition showcases our commitment to creating a dynamic work culture and environment, to drive our employees’ personal and professional goals. The pandemic has presented many challenges, and we’re proud to have worked through them with our team to maintain effective communication and workplace satisfaction across the board. https://lnkd.in/gzG5bgaJ
要查看或添加评论,请登录
-
-
夥伴招募! 在我經歷不同產業的大小新創後,選擇加入 BlueX 時,考量的正是這裡的決策者是一群經驗豐富且成功出場的矽谷連續創業家,同事都是資歷極為深厚且相當可靠的夥伴,R&D lead 更是引起我對系統架構濃厚興趣的啟蒙者。這半年我經歷非常扎實的技術成長,也印證我當初的轉職選擇確實帶給我我想要的磨練與視野。 航運產業雖古老且龐大,但翻轉這個行業的數位風潮正如火如荼的進行中。従資本市場走向、全球數一數二的航運業者開始提供數位化平台,到各式新創相繼試圖在這塊大餅中找到立足之地,都可以看出航運數位化潛藏的巨大商機。 當然,對於有能力的優秀人才,在待遇與工作彈性以及其他各式福利方面,是絕對不會虧待的。如果你同樣對於在純正矽谷文化的新創中貢獻所長感到心動,歡迎一起加入,新的大航海時代(笑
要查看或添加评论,请登录
-
不知不覺間,好像已經到了一個可以寫些內容好讓我的經驗可以被分享、被看見,讓其他人受惠的一個年紀。 在以軟體科技為核心的企業內,不管你做的是前端、後端、QA,還是 PM,大概都會對這篇內容的概念很清楚,否則想共事都有困難。可惜的是,對於不以軟體技術為本的產業來說,這些概念令人訝異地顯為人知。因此我寫下這篇文章,希望如果你對雲端架構基礎概念不熟悉的,不管你是資訊產業的新鮮人,還是非資訊產業的業界大老,都能有個入門的起點,幫助你更快進入資訊產業,或者找到合格的人才。 https://lnkd.in/gSPadMD
要查看或添加评论,请登录
-
我已加入 #职场人时间捐赠计划 ,为大学生提供职业指导。一次善举,也许就能让年轻人少走弯路。点击链接,和我一起成为领英职场导师,也欢迎需要帮助的同学们来和我聊聊: https://lnkd.in/gNtbk3u
要查看或添加评论,请登录
-
航見科技榮獲中華電信5G加速器潛力新星獎,獎項由財務長陳宇紳副總親自頒發,由我以技術長身份代表航見科技受獎。 5G 自年初開標後,由電信龍頭中華電信以462億取得 690 MHz 最大頻寬。為了讓 5G 應用能更快速在各產業開花結果,中華電信成立5G 加速器,力挺十多家新創的發展。加速器成員領域分佈相當廣,有 AI 影像辨識智慧工廠、影像高解析串流服務、即時縫圖全景攝影機、AI 監控土壤微生物生長的智慧農業、甚至有遠端心理諮詢媒合服務。而當中極具產業應用價值之一的,就是無人機結合 5G 網路能達成大幅度的作業效率提升。從物流運輸、農藥噴灑、塔台巡檢、水質監測等,都是航見有合作實例的產業應用。去年我們在阿里山達成血清運送的偏鄉醫療資源補給任務,也是與中華電信密切合作下,確保航線全程的通訊順暢無阻。 能達成這些成果,從來不是一個人的力量,而是站在巨人的肩膀上、時代的浪潮中、產業的生態結構裡,靠著許多上下游夥伴的密切結合、產學合作的研究能量、過往同事的努力,才能搭建起每個角色發揮的舞台。大浪來了,衝浪的人很多,能不被海水吞沒,考驗各家本事。十年的新創經歷不算長,但是這段時間的觀察告訴我,唯有時時刻刻保持生存的危機意識,不斷調整策略方向,讓市場持續認可,才是企業永續經營的關鍵。 #中華電信 #5G #無人機 #航見科技
要查看或添加评论,请登录
-