そのまま「線をはみ出す」でも使いますが、物事に対して度を越す、やりすぎる、言いすぎるなどでも使います。
A: She was so upset.
B: I was little bit out of line.
A: 彼女、落ち込んでいたよ。
B: ちょっと言いすぎたかな。
A: You like him?
B: No. You are way out of line.
A: 彼のこと好きなの?
B: そんなことないよ。見当違いだよ。