1983年倪光南放棄了留在加拿大的工作機會，在那個中國還一貧如洗的年代，選擇了回國，轉身投入祖國的的芯片事業之中，1984年中科院創立了"中國科學院計算技術研究所新技術發展公司"（聯想集團的前身），在應邀加盟公司的時，倪光南提出來三個條件："一不做官，二不開會，三不接受採訪。"
在那個時候，計算機全是英文，編輯漢字很困難，很多人一度想要放棄漢字，改用其他國家的文字。
倪光南的任務就是攻克這個難題，主導研發聯想式漢卡。終於在1985年正式推出可以高效輸入漢字的聯想漢卡，這張漢卡與當時的計算機巨頭IBM的電腦完美融合，在商業上獲得巨大成功，為公司贏得了巨大利益。
漢卡獲得成功後，倪光南1988年在香港組建了主板和擴展卡研發部門，這個部門研發出了自主芯片，隨後1990年聯想的漢卡產品全是用的自主芯片，同時還研發出了自主設計的聯想主板，在同年倪光南獲得了國家科技進步一等獎。
1988年倪光南準備做芯片，但在當時國內是沒有任何做芯片的條件的，如果從設廠開始做，投入是十分巨大的，為了解決這個問題，倪光南找到了新加坡特許半導體公司，這是由新加坡國家基金投建的，要資金有資金，要設備有設備，聯想之後就帶著團隊在特許半導體實驗室工作，從這裡研發，也在這裡生產，在此期間團隊成果豐碩。
這裡值得一提的是，倪光南為什麼能順利在特許半導體公司裡做研發?
因為新加坡大部分人都是華人，是下南洋時期、戰爭時期過去的華人，華人憑藉吃苦耐勞的精神和聰慧的頭腦，在新加坡打出來一片天下，新加坡的富豪中大半都是華人，有民族認同感，身在異國仍為中華民族著想，倪光南能順利開展工作，必有權勢華人的相助。
從1984年到1994年，這十年之間，柳傳志的商業才能與倪光南的技術才能相結合，為聯想帶來了十分巨大的商業利潤，僅1994年，聯想的銷售額就達到47.6億元，這在當時是十分耀眼的成績，那時的華為還完全不能和聯想比，中國第一科技公司的稱號"聯想"當之無愧。
可惜，當之無愧的第一也止步於此，1993年倪光南籌辦芯片設計部門，目標直接是想要挑戰因特爾，芯片剛開始做的時候柳傳志是支持的，並且還獲得了國家科技部的補貼。
但到了1994年，改革開放成果初現，大量國外電腦品牌進入中國市場，漢卡已經賣不動了，聯想的發展出現問題，而芯片又需要大量的資金投入，全力投芯片的話，聯想可能撐不下去，國內的科技條件也不好。對於路線的選擇，柳傳志最終選擇了商業路線，因為這個決定，聯想從技術驅動型公司完全轉變為商業公司，"組裝廠"稱號就是因這個決定而來。
柳傳志和倪光南的路線分歧，在當時鬧的很大，柳傳志實際在1986年左右就掌控了聯想，那時聯想還是國企，倪光南就向中科院、科技部及其他國家領導寫信舉報柳傳志存在個人作風、私吞國家資產等違法違紀行為。
但1995年中科院調查組表示：沒有發現柳傳志有個人經濟問題。然後倪光南被解除了聯想總工程師職位（隨後聯想取消了總工程師職務，因此倪光南是聯想史上唯一的一位總工程師），其主持的聯想芯片、交換機等研發項目被終止，雖然之後倪光南竭力呼籲，不要毀掉研究成果，希望這些項目繼續，但這些項目終究還是被聯想拋棄了，因為這次爭端，柳傳志與倪光南也成為不共戴天的仇人。
倪光南的"芯片夢"在聯想那裡破滅，有長遠的眼光也得不到實施，他一人敵不過那多支持柳傳志的企業家，在那個時代，做技術不如"買辦"錢來的快，倪光南雖然成為了一個"失敗者"，他敗給了那個時代，但卻無上榮光。
幾十年前的因，現在的"果"，今天芯片問題成了中國一大難題，基本全靠進口，每年不知道要花多少億購買芯片，由於幾十年技術的積累，芯片難度的成倍增加，加上西方國家的有意"封鎖"，我們想要再造出世界一流的芯片 ，"難"！