这并没有完全解决OP问题，但我认为它可能对一些来这里搜索嵌套结构regexp的人有用:

在javascript中从函数字符串(带有嵌套结构)解析参数

匹配结构如下:

匹配方括号、方括号、圆括号、单引号和双引号

在这里您可以看到生成的regexp正在运行

/**
 * get param content of function string.
 * only params string should be provided without parentheses
 * WORK even if some/all params are not set
 * @return [param1, param2, param3]
 */
exports.getParamsSAFE = (str, nbParams = 3) => {
    const nextParamReg = /^\s*((?:(?:['"([{](?:[^'"()[\]{}]*?|['"([{](?:[^'"()[\]{}]*?|['"([{][^'"()[\]{}]*?['")}\]])*?['")}\]])*?['")}\]])|[^,])*?)\s*(?:,|$)/;
    const params = [];
    while (str.length) { // this is to avoid a BIG performance issue in javascript regexp engine
        str = str.replace(nextParamReg, (full, p1) => {
            params.push(p1);
            return '';
        });
    }
    return params;
};

这个答案解释了为什么正则表达式不是这项任务的正确工具的理论局限性。

正则表达式不能做到这一点。

正则表达式基于有限状态自动机(FSA)的计算模型。顾名思义，FSA只能记住当前状态，它没有关于以前状态的信息。

在上图中，S1和S2是两种状态，其中S1是开始和结束步骤。因此，如果我们尝试使用字符串0110，转换如下:

      0     1     1     0
-> S1 -> S2 -> S2 -> S2 ->S1

在上述步骤中，当我们在第二个S2，即解析完0110的01之后，FSA没有关于01中前一个0的信息，因为它只能记住当前状态和下一个输入符号。

在上面的问题中，我们需要知道左括号的no;这意味着它必须存储在某个地方。但是由于fsa不能这样做，因此不能编写正则表达式。

但是，可以编写一个算法来完成这项任务。算法一般属于下推自动机(PDA)。PDA比FSA高一级。PDA有一个额外的堆栈来存储一些额外的信息。pda可以用来解决上述问题，因为我们可以在堆栈中“推入”开括号，并在遇到闭括号时“弹出”它们。如果在结束时，堆栈为空，则开始括号和结束括号匹配。否则不。

使用Ruby(1.9.3或更高版本)的正则表达式:

/(?<match>\((?:\g<match>|[^()]++)*\))/

关节演示

虽然很多答案都以某种形式提到了这一点，比如正则表达式不支持递归匹配等等，但主要原因在于计算理论的根源。

形式为{a^nb^n | n>=0}的语言是非正则的。Regex只能匹配构成常规语言集一部分的东西。

阅读更多@这里

答案取决于您是需要匹配括号的匹配集，还是只需要匹配输入文本中的第一个开始到最后一个结束的括号。

如果您需要匹配匹配的嵌套括号，那么您需要的不仅仅是正则表达式。-见@dehmann

如果只是先开后关，再见@扎克

决定你想要发生什么:

abc ( 123 ( foobar ) def ) xyz ) ghij

您需要决定在这种情况下您的代码需要匹配什么。

这可能有助于匹配平衡括号。

\s*\w+[(][^+]*[)]\s*