1928年3月21日， 樑思成與林徽因在加拿大渥太華樑思成姐夫任總領事的中國總領事館舉行婚禮。之後按照其父梁啟超的安排，赴歐洲參觀古建築，於8月18日回京。
1929年8月，林徽因從東北迴到北平，在協和醫院生下其女兒，取名再冰，意為紀念已故父親梁啟超“飲冰室”書房雅號。
婚後夫妻二人致力於建築事業，他們在山西對古建築所做的調查和實測工作，不僅對科學研究貢獻巨大，也使山西眾多埋沒在荒野的國寶級的古代建築開始走向世界，為世人所知。
1932年夏天，樑思成從河北寶坻考察古建築回來，林徽因告訴樑思成，她愛上了金嶽霖，她同時愛上了兩個人，不知如何是好。樑思成想了一晚上，第二天跟林微因說，“你是自由的，如果你選擇了老金，我祝你們永遠幸福。”林微因感動萬分，對樑思成說，“你給了我生命中不能承受之重，我將用我一生來償還！”此事過後，他們三人毫無芥蒂，金嶽霖仍舊跟他們毗鄰而居，相互間更加信任。此後金嶽霖終生未娶，一直到八十多歲去世。
在林徽因去世後，樑思成曾跟林洙說過，作為徽因的丈夫，確實有點累。樑思成說到這個話題，是因為林洙問他關於金嶽霖為了林徽因終生不娶的故事。據林洙說，樑思成笑了笑說：“林徽因是個很特別的人，她的才華是多方面的。樑思成這樣評價過林徽因之後，詼諧地說：“所以做她的丈夫很不容易。中國有句俗話，‘文章是自己的好，老婆是人家的好。’可是對我來說，老婆是自己的好，文章是老婆的好。我不否認和林徽因在一起有時很累，因為她的思想太活躍，和她在一起必須和她同樣地反應敏捷才行，不然就跟不上她。”費正清在《樑思成與林徽因》一文裡回憶說：“我經常騎自行車或坐人力車在天黑時到樑家去。紅漆雙扇大門深鎖，傭人把庭院入口的門閂打開，我就徑自穿過內花園去找徽因。在客廳舒適的角落裡坐下，泡上兩杯熱茶，我們迫不及待地把那些為對方保留的故事和想法講出來。我們有時分析比較中國和美國的不同價值觀和生活方式，但接著就轉向彼此在文學、藝術和冒險方面的許多共同興趣，談談對方不認識的朋友。”
據《林徽因傳》的作者張清平介紹，當年樑思成是因為林徽因喜歡建築學而學建築的。建築學在他們之間，是共同的事業，也是情感溝通的基礎。
關肇鄴《憶樑先生對我的教誨》回憶說：“在先生那樸素而高雅的書房裡，經常可以聽到他們對學術上不同觀點的爭論。有時爭得面紅耳赤，但都有很充足精深的論據。我在旁靜聽，極受教益。也常有某一雕飾在敦煌某窟或雲崗某窟、某一詩句出於何人之作等的爭論而評比記憶力，等到查出正確結論，都一笑而罷。這些都使我感到多麼像李清照和趙明誠家庭生活中的文化情趣。”