选择焊接结构的材料时，主要考虑的是强度、使用温度和环境条件（主要是腐蚀问题）。一般来说，低温结构的主要问题是防止脆性破坏，要求材料和焊接接头有足够的低温韧性。高温结构则要求材料具有耐热（热强度）和耐蚀（至少是抗氧化，随着工作介质的不同还有其他耐蚀要求）的性能。不同的材料具有不同的物理性能，因而给焊接带来一些差异和困难。
钢材在低温下韧性较低，当有缺口或应力集中点存在时，就可能导致在一瞬间的脆性破坏，因为材料的破坏强度在低温下很低。对材料缺口韧性值的一般比较和评价的方法是用夏比试样（V形缺口）进行各种温度下的冲击试验。提高钢材缺口韧性的方法是进行调质（淬火后高温回火）处理，或者加入合金元素细化钢材的结晶组织。一般低碳钢的脆性转变温度（NDT）约为0℃，而600兆帕、800兆帕级调质钢的NDT低于-80℃，对这种韧性的高强度钢，若在不适当的条件下焊接，就会降低焊缝和热影响区，特别是熔合区的韧性。特别要注意的是，大热量输入会降低焊接接头的韧性，所以对有高韧性要求的结构，要加强控制热输入的施工管理。
此外，还必须注意材料中的杂质对材料性能和焊接性的影响。所谓杂质，是指那些对材料性能有不利影响的元素，钢材中除了常规的硫、磷引致热脆、冷脆外，氧气、氢气、氮气等气体也具有有害影响，特别要注意微量元素和超量元素。微量元素有两方面含义：一种是铌（约0.04级）、硼（0.005级）、稀土元素类的合金元素，当含量不稳定时会明显影响钢材的性能，引起焊接的困难；另一种是未知的微量元素，例如建造核电站的受压件，除要求材料韧性高外，还要求材料抗中子辐射，因而要限制磷、铜和砷、锡。超量元素是指常见的合金元素，如铬、镍、钼、钒等，在非规定的钢材中出现。在国外，特别是欧洲，利用废钢炼钢，常出现这种情况，如20世纪70年代末我国进口德国FG39、FG43钢材做球罐，就是因为超量元素使钢材强化，按常规工艺制造时出现大量的焊接裂纹。