Enmathématiques, unensemble désigneintuitivement un rassemblement d’objets distincts (leséléments de l'ensemble), « une multitude qui peut être comprise comme unetotalité » pour paraphraserGeorg Cantor qui est à l'origine de lathéorie des ensembles.
Dans une approcheaxiomatique, lathéorie des ensembles est une théorie enmathématiques de l'appartenance (un élément d'un ensemble est dit « appartenir » à cet ensemble). Le motensemble désigne alors un objet du domaine de cette théorie, et les propriétés des ensembles sont régies par les axiomes de celle-ci. La théorie des ensembles est utilisée pourfonder les mathématiques, et dans cette approche tout objet mathématique estin fine un ensemble.
Mais la notion d'ensemble est aussi une notion de base qui intervient dans à peu près tous les domaines desmathématiques[1].
Le mathématicienGeorg Cantor, énonçait :« Parensemble, nous entendons tout rassemblementM en une totalité d’objetsm de notre intuition ou de notre pensée, déterminés et bien différenciés (qui seront appelés leséléments de M). »[2],[3]. Ceci était particulièrement novateur, s'agissant d'ensembles éventuellement infinis (ce sont ces derniers qui intéressaient Cantor).
Ce qui est en jeu au premier chef dans la notion d'ensemble, c'est la relation d’appartenance : un élémentappartient à un ensemble. Ce sont les propriétés de cetterelation queZermelo, puis d'autres, ont axiomatisées en théorie des ensembles. Il est assez remarquable que l'on puisse s'en contenter pour une théorie qui peut potentiellement formaliser lesmathématiques. Mais ce n'était pas l'intention de Cantor, et il n'avait pas non plus axiomatisé sa théorie.
L'objet de cet article est de donner une approche intuitive de la notion d'ensemble, telle qu'elle est indiquée dans l'articlethéorie naïve des ensembles.
Unensemble peut être vu comme une sorte de sac virtuel entourant ses éléments, ce que modélisent bien lesdiagrammes de Venn. Souvent (ce n'est pas toujours possible), on essaye de le distinguer typographiquement de ses éléments, par exemple en utilisant une lettre latine majuscule, par exemple « E » ou « A », pour représenter l'ensemble, et des minuscules, telles que « x » ou « n », pour ses éléments.
Leséléments peuvent être de n’importe quelle nature :nombres,points géométriques,droites,fonctions, autres ensembles… On donne donc volontiers des exemples d'ensembles en dehors du monde mathématique. Par exemple :lundi est un élément de l’ensemble desjours de lasemaine ; unebibliothèque est un ensemble de livres, etc.
Un même objet peut être élément de plusieurs ensembles :4 est un élément de l'ensemble desnombres entiers, ainsi que de l’ensemble desnombres pairs (forcément entiers). Ces deux derniers ensembles sontinfinis, ils ont une infinité d’éléments.
L'appartenance d'un élément, noté par exemplex, à un ensemble, noté par exempleA, s’écrit :x∈A.
Cet énoncé peut se lire :
« xappartient àA »,
« xest élément deA »,
« xest dansA »,
« Aa pour élémentx »,
« Apossèdex »,
ou parfois « Acontientx » (il y a ambiguïté cependant dans ce dernier cas,A contientx peut signifier quex est unsous-ensemble deA, c’est-à-dire quex est un ensemble et que tous ses éléments appartiennent àA, ce qui est très différent de « xappartient àA »).
Pour Peano « x εA » se lit « x est unA », par exemple « x εN » se lit « x est un entier positif ou nul». Le ε renvoie à l'initiale du mot « est » (en latin, langue de l'article de Peano de 1889 !), en français, ou en italien (« è »).Bertrand Russell reprend les notations de Peano en 1903 dans lesPrinciples of Mathematics[5], ouvrage qui va participer à leur diffusion, et où est utilisée la forme arrondie vieillie duepsilon : « ϵ », en usage dans l'édition mathématique anglo-saxonne.
Comme souvent pour les relations, on barre ce symbole pour indiquer sa négation, la non-appartenance d’un objet à un ensemble :
En mathématiques – et pas seulement en mathématiques d'ailleurs –, on considère que deux objets sont égaux quand ils ont les mêmes propriétés, que l'on ne peut donc les distinguer l'un de l'autre – c'est la définition de l'égalité deLeibniz. Dire que deux objets sont égaux, c'est-à-dire que deux expressions désignent en fait le même objet, c'est donc donner une information sur ce que sont ces objets. En théorie des ensembles on décide qu'un ensemble est complètement caractérisé par ses éléments, sonextension, alors qu'il peut avoir plusieurs définitions. Par exemple, il n'y a pas lieu de distinguer l'ensemble des entiers différents d'eux-mêmes et l'ensemble des entiers supérieurs à tous les nombres premiers : ces deux ensembles sont tous les deux vides, donc égaux – ils ont bien les mêmes éléments –, même s'ils ont des définitions différentes, et sont vides pour des raisons très différentes.
On dira donc que deux ensemblesA etB sont égaux (on le notera comme d'habitudeA =B) quand ils ont exactement les mêmes éléments. Cette propriété est connue sous le nom d'extensionnalité :
(Extensionnalité)A =B si et seulement si ∀x(x ∈A ⇔x ∈B)
où « ⇔ » désigne l'équivalence logique. Deux ensembles qui ont les mêmes éléments sont bienidentiques : tout ce qui peut être dit de l'un peut être dit de l'autre. Si nous nous représentons les deux ensembles comme des sacs étiquetés chacun par leur nom, s’ils sont égaux, alors il s’agit en fait d’un seul et même sac avecdeux étiquettes. Par contre, les propriétés d’un ensemble ne dépendent absolument pas de la nature ou de la forme du sac, seulement de son contenu.
Ainsi un ensemble est complètement déterminé par ses éléments. Quand un ensemble est fini, il est donc possible de le définir en donnant la liste de ses éléments, que l'on note traditionnellement entre accolades. Par exemple l'ensemble auxquels appartiennent les éléments 2, 3, et 5, et seulement ces éléments, est noté {2, 3, 5}. L'ensemble est défini enextension.
Mais on ne peut procéder ainsi en toute généralité, on ne pourrait définir ainsi unensemble infini. Même si quelques artifices de notation qui ressemblent à la notation en extension sont possibles (voir ci-après), la façon la plus générale de définir un ensemble est de donner une propriété caractéristique des éléments de cet ensemble. Par exemple, on pourra définir l'ensemble desnombres premiers par une propriété caractéristique de ceux-ci : être différent de 1 et avoir pour seuls diviseurs 1 et lui-même. On parle de définition encompréhension[6]. L’ensemble {2, 3, 5} peut être défini en compréhension comme l’ensemble de tous les nombres premiers inférieurs à 6. La définition en extension desensembles finis peut être vue comme un cas particulier simple de définition en compréhension : par exemple l'ensemble {2, 3, 5} est caractérisé par la propriété, pour un nombre entier, d'être égal à 2 ou à 3 ou à 5.
Quand on parle d'ensembles finis, c'est en un sens intuitif, sans avoir vraiment défini cette notion. Un ensemble est fini quand on peut compter ses éléments à l'aide d'entiers tous plus petits qu'un entier donné.
Les ensembles finis peuvent êtredéfinis en extension, par la liste de leurs éléments, et décrits comme tels ; on place la liste des éléments d'un ensemble entre accolades, comme on l'a déjà vu pour l'ensemble {2, 3, 5}. Par exemple, l'ensemble des jours de la semaine peut être représenté par { lundi, mardi, mercredi, jeudi, vendredi, samedi, dimanche }.
La notation d'un ensemble en extension n'est pas unique : un même ensemble peut être noté en extension de façon différentes.
L’ordre des éléments est sans importance, par exemple { 1, 2 } = { 2, 1 }.
La répétition d’éléments entre les accolades ne modifie pas l’ensemble :
toujours avec le même exemple, { 1, 2, 2 } = { 1, 1, 1, 2 } = { 1, 2 }.
À cause de la propriété d'extensionnalité, il n'est pas question de distinguer des ensembles par le nombre de répétitions d'un même élément à ces ensembles : un élément appartient ou n'appartient pas à un ensemble, il ne peut appartenir à un ensemble une, deux, ou trois fois…
On pourrait imposer que la notation se fasse sans répétitions, ce serait assez malcommode dès qu'interviennent des variables : on ne pourrait noter un ensemble en extension sans devoir supposer que ses éléments sont distincts.
Il peut arriver que l'on ait besoin d'ensemble « avec répétition », dans le cas fini, il s'agit plus justement, de suites finies à l'ordre des éléments près, on définit alors la notion demultiensemble fini (qui peut se définir à partir de la notion de suite finie).
Les ensembles réduits à un seul élément sont appeléssingletons. Par exemple l'ensemble qui contient pour seul élément 0 est appelé « singleton 0 » et noté {0}.
Les ensembles qui ont exactement deux éléments sont appeléspaires, la paire des éléments 1 et 2, notée {1,2}, ne doit pas être confondue avec lecouple (1,2), qui a un ordre déterminé.
Par extensionnalité, il n'y a qu'un seul ensemble sans éléments, l'ensemble vide, que l'on note ∅ ou { }.
Un ensemble peut êtredéfini en compréhension, c’est-à-dire qu'on le définit par une propriété caractéristique parmi les éléments d'un ensemble donné. Ainsi l'ensemble desentiers naturels pairs est clairement défini en compréhension, par la propriété « être pair » parmi les entiers naturels. On peut utiliser lanotation d'un ensemble en compréhension[7], par exemple pour l'ensemble des entiers naturels pairs, on écrira (ℕ désignant l'ensemble des entiers naturels) :
.
On définira de la même façon (ℤ désignant l'ensemble desentiers relatifs) :
l'ensemble des entiers relatifs compris entre -7 et 23 ;
Cette construction a besoin d'un ensemble déjà existantE et d'une propriétéP définie sur tous les éléments deE. Elle permet donc de construire des sous-ensembles mais pas laréunion d'unefamille d'ensembles, ni l'ensemble des parties d'un ensemble, ni même les ensembles finis définis par la liste de leurs éléments comme au paragraphe précédent. On pourrait pourtant écrire, par exemple pour l'ensemble des partiesP(E) = {A |A ⊂E }
Il n'est pas pour autant possible de définir un ensemble par n'importe quelle propriété, et lever entièrement la restriction de la compréhension. Si c'était le cas on pourrait définir l'ensemble {x | x ∉ x}, ce qui conduit à une contradiction (c'est leparadoxe de Russell). La restriction de la compréhension à un ensemble connu protège contre ce genre de paradoxes, elle correspond directement auschéma d'axiomes de compréhension de lathéorie de Zermelo. Cette restriction ne peut se lever que dans des cas particuliers précis, qui correspondent à d'autres axiomes de la théorie de Zermelo (axiome de la paire,axiome de la réunion,axiome de l'ensemble des parties).
On n'a pas dit ce que l'on entendait par « propriété » ou « condition ». Malgré la restriction précédente, on ne peut tout autoriser, sous peine d'autres paradoxes comme leparadoxe de Richard ou leparadoxe de Berry, qui fait intervenir, par exemple, « l'ensemble des entiers naturels définissables en moins de quinze mots français ». Il est nécessaire de préciser le langage dans lequel on peut définir ces conditions. En particulier ce langage doit être définia priori, et ne peut être étendu qu'à l'aide de définitions qui sont soit de simples abréviations, soit résultent de preuves d'existence et d'unicité.
Pour noter l'ensemble des carrés parfaits non nuls (voir exemple au paragraphe précédent) on peut utiliser la notation plus concise :
dont la forme générale est :
Elle représente l'ensemble des images d'un ensembleE par une applicationf. L'ensemble obtenu s'appelleimage directe deE parf. Il s'agit d'une variante de la notation en compréhension ci-dessus. Elle se déduit de celle-ci, en utilisant la définition d'unefonction, siF est l'ensemble d'arrivée de la fonctionf[8] :
.
De cette notation dérivent d'autres notations faciles à comprendre
Ces notations ont leur avantage et leur inconvénient. D'un côté, elles facilitent une compréhension immédiate des ensembles considérés et rendent accessibles à l'intuition des objets plus compliqués. D'un autre côté, ces notations masquent unquantificateur existentiel indispensable dès lors que l'on veut utiliser cet ensemble.
Il existe d'autres notations commodes, en particulier pour les ensembles de nombres, et plus généralement pour les ensemblestotalement ordonnés.
On peut utiliser despoints de suspension, pour des notations inspirées de la notation en extension pour des ensembles decardinalité infinie, ou finie mais non déterminée. Par exemple, l’ensemble des entiers naturels peut se noter par : ℕ = { 0, 1, 2, 3, … }. S'il est clair par ailleurs quen désigne un entier naturel, {1, 2, … ,n}, voire {1, … ,n} désigne en général l'ensemble des entiers supérieurs ou égaux à 1 et inférieurs ou égaux àn. De même on peut écrire ℤ = { … , –3, –2, –1, 0, 1, 2, 3, … }.
Quand il y a un procédé itératif simple pour engendrer les éléments de l'ensemble, on peut se risquer à des notations comme {0, 2, 4, 6, … } pour l'ensemble des entiers naturels pairs, etc.
On peut bien sûr utiliser ces notations pour des ensembles ayant « beaucoup » d'éléments, {1, 2, … , 1000} plutôt que d'écrire les mille premiers nombres entiers non nuls, ou encore { 3, 5, … , 21} plutôt que { 3, 5, 7, 9, 11, 13, 15, 17, 19, 21 }.
Toutes ces notations ne sont pas systématiques, ni universelles, et pour les dernières au moins, pas très rigoureuses. On peut encore signaler, la notation, rigoureuse celle-ci, de certains sous-ensembles de la droite réelle, lesintervalles.
Parabus de notation, parfois on ne note pas la variable dans la définition en compréhension, mais seulement la propriété. Ainsi on note un ensemble en plaçant entre accolades la nature, ou une propriété caractéristique, des objets qui lui appartiennent. Par exemple la notation {chiens} désigne l’ensemble de tous les chiens ; pour prendre un exemple plus mathématique, on pourrait écrire parfois {pairs} pour l'ensemble des nombres pairs.
↑dansArithmetices Principia, nova methodo exposita, Turin, Bocca 1889, rep. Opera Scelte vol II ed. cremonese Roma 1958, voir également du même auteur leFormulaire de mathématiques Tome I (1895) disponible surle site de la BNF
↑On parle aussi de définition parintension[réf. nécessaire], par analogie àextension. Cet emploi est notamment fréquent dans le contexte des ontologies et dans celui des modèles relationnels de données en informatique (fondements des bases de données).
↑qui apparaît sous une forme un peu différente dans lesOperazioni della logica Deduttiva (1888) de Peano (voir Opera Scelte vol II, cité ci-dessus) : on trouve « x : [f(x) = 0] » pour « l'ensemble desx tels quef(x) est nul ».
↑En théorie des ensembles, une fonction est souvent définie simplement par son graphe : comme un ensemble de couples ayant les propriétés adéquates. Dans ce cas l'ensemble d'arrivée n'est pas précisé. On montre cependant que l'image directe d'un ensemble par une fonction est un ensemble en utilisant que la projection d'un ensemble decouples est un ensemble, ce qui se déduit duschéma d'axiomes de compréhension.
