¿Cuál es la definición formal de un conjunto en matemáticas?

Necesitas mirar la teoría de conjuntos axiomática. Exactamente cómo define un conjunto depende del sistema axiomático en el que desea trabajar.

Una popular es la teoría de conjuntos de Zermelo-Fraenkel, conocida como ZF, así que usaré esto para mi respuesta. ZF consta de una serie de axiomas, la mayoría de los cuales le indican cómo construir conjuntos a partir de otros conjuntos. Por ejemplo, si A y B son conjuntos, entonces la unión también es un conjunto, o si A es un conjunto, entonces la colección de todos los subconjuntos de A es un conjunto. Este tipo de cosas.

Ahora puede, de forma totalmente razonable, preguntarse cómo hacer que los conjuntos comiencen este proceso. En general, el axioma “existe un conjunto” no se incluye con ZF (aunque Kunen lo puso en su formulación), sin embargo, existe un axioma que afirma la existencia de un conjunto infinito. Y si existe un conjunto infinito, entonces claramente existe un conjunto, y una vez que tenemos uno, podemos construirlos todos.

La diferencia clave entre el enfoque axiomático y el enfoque de “un conjunto es una colección de objetos” del tiempo de Cantor es que hay colecciones que no son conjuntos. Estas son conocidas como clases (o más bien clases apropiadas, ya que los conjuntos también son clases).

Un ejemplo en ZF es que la clase de todos los conjuntos no es un conjunto, y así evitamos la paradoja de Russell, que plagó a Cantor.